知ち識しきの蒸じょう留りゅう

expression, noun

knowledge distillation

Technical term in machine learning where a smaller model (student) is trained to mimic a larger model (teacher).

• 知ち識しきの蒸じょう留りゅうは、大だい規き模ぼモデルの知ち識しきを小しょう規き模ぼモデルに移うつす手しゅ法ほうです。

  Knowledge distillation is a technique to transfer the knowledge of a large model to a smaller one.

• この論ろん文ぶんでは知ち識しきの蒸じょう留りゅうを用もちいてモデルを軽けい量りょう化かした。

  In this paper, they used knowledge distillation to make the model lighter.