AIの紹介で「大きなモデルを蒸留して作りました」と聞いても、何をしたのかは想像しにくいものです。「元のAIをそのまま小さくしたのでしょうか」「小さくなった分、回答は苦手になるのでしょうか」。この疑問を考える鍵は、容量の大小だけでなく、何を手本に学習したかにあります。

一言で答えると、AIの蒸留は、大きなモデルの出力を手本にして、小さなモデルを学習させる方法です。モデルとは、データから学習したパターンを使って、分類や文章生成などを行う仕組みを指します。Googleの用語集では、手本を出す側を「教師モデル」、その予測に近づくように学習する側を「生徒モデル」と呼んでいます。ここでの教師と生徒は役割の名前であり、人のような意識や意思を表しているわけではありません。（出典: Google for Developers）



同用語集では、小さなモデルには、回答などを計算する時間が短くなり、メモリやエネルギーの使用を抑えられる利点があると説明されています。ただし、生徒モデルの予測は通常、教師モデルほど良くないとも記されています。つまり「同じ能力を、無条件で小さくできる」という意味ではありません。（出典: Google for Developers）

初心者が押さえたいのは、蒸留の細かな計算方法よりも、この交換条件です。どの仕事に必要な回答を、どれくらいの計算資源で出せるようにするのか。その目的に沿って、小さなモデルの学習を進めます。蒸留されたモデルの説明を読むときも、「元のモデルと同じですか」だけでなく、「どの作業で役立つように学習したのですか」と考えると、特徴を捉えやすくなるでしょう。

蒸留を身近なたとえで考えてみます。ある試験に向けて、解答例を教材に練習する場面を想像してください。問題と解答例の組み合わせを繰り返し確かめ、別の問題にも答えられるように練習します。蒸留も、手本となる出力を使う点では、この構図に似ています。

ただし、このたとえでいう解答例は、必ず正しい答えという意味ではありません。教師モデルが出した予測や回答を指します。Googleの説明では、生徒モデルと教師モデルの予測結果の違いが小さくなるように、生徒モデルを学習させます。手本への近さを学ぶことと、その手本が現実に照らして正しいことは、分けて考える必要があります。（出典: Google for Developers）



たとえば、教材に料理の注文を分ける問題ばかり載っていたとします。その教材で練習できたからといって、契約書の読み取りや歴史の質問にも同じように対応できるとは判断できません。これは学習範囲を考えるための架空のたとえですが、蒸留で何を評価すべきかを理解する助けになります。

また、蒸留は「大きなモデルをファイル圧縮して保存すること」と捉えると、仕組みを見誤ります。ここで扱っているのは、別の小さなモデルに、教師モデルの出力を手本として学習させる方法です。圧縮ファイルを展開するように、後から元の能力がすべて戻るという話ではありません。

このたとえで覚えておきたいのは、教材、練習する仕組み、試験の三つです。どんな出力を教材にしたか、どんな小さなモデルを学習させたか、学習後に何ができるかをどう確かめたか。この三つを分けると、「有名なモデルが教師だから安心です」という説明だけでは、用途への適性を決められないことが見えてきます。

仕組みを具体的にするため、店に届く問い合わせを「配送」「返品」「その他」に分ける架空の例を考えます。これは蒸留を説明するための例示であり、特定の製品で実施した結果や、導入手順を示すものではありません。目的は長い相談に回答することではなく、文章を読んで分類先を出すこととします。

教材の候補には、「荷物はいつ届きますか」「届いた商品を返したいです」「営業時間を教えてください」といった文章を用意します。それぞれを教師モデルに入力し、分類結果を得る場面を想像してください。たとえば「荷物はいつ届きますか」に対する教師モデルの出力が「配送」であれば、その入力と出力の組み合わせが、生徒モデルの学習の手本になります。



生徒モデルにも問い合わせ文を入力し、教師モデルの分類結果に近づくように調整します。Googleの用語集が説明する蒸留では、この予測の差を学習の基準にします。差を数値で表し、学習時の目印にする仕組みを「損失関数」と呼びますが、初心者は「手本とのずれを測る物差し」と捉えるとよいでしょう。（出典: Google for Developers）

学習後の確認方法としては、教材と同じ文だけでなく、「発送された商品がまだ来ません」のような別の言い回しも試すことを提案します。見たことのある文に答えられるかと、実際に届きそうな文を扱えるかは、別の確認だからです。「返品したいので返送先を教えてください」のように、配送を連想させる言葉が混ざる例も候補になります。

ここで分類例を使ったのは、入力、教師の出力、生徒の学習という関係が見えやすいためです。実際の蒸留をすべて、この単純な分類の形だけで説明できるわけではありません。それでも、教師の仕組みを丸ごと移すのではなく、出力を手本として学習する、という中心は捉えられるはずです。

先ほどの例を読むと、「普段のチャットでも、お手本の回答を貼れば蒸留になるのでしょうか」と感じるかもしれません。区別したいのは、その場の回答に使う情報を渡すことと、モデルそのものを学習させることです。文章を入力したという見た目だけでは、同じ処理とは判断できません。

プロンプトとは、AIに渡す質問や指示などの入力を指します。Googleの用語集では、複数のお手本を含むプロンプトも説明されています。たとえば「この文章なら配送、こちらなら返品」と例を示してから、新しい文章の分類を頼む形です。これは回答の仕方を入力内で示す方法として理解できます。（出典: Google for Developers）



対して、蒸留の説明では、教師と生徒の予測の差をもとに、生徒モデルを学習させる工程が入ります。画面に例を貼って回答を受け取ることだけをもって、「新しい小さなモデルを作った」とはいえません。利用中のサービスが入力をどう扱うかという提供条件も、蒸留という言葉だけからは分かりません。（出典: Google for Developers）

学習と回答の違いは、問題集で練習する時間と、本番の問題に答える時間に置き換えると整理しやすくなります。蒸留は主に、どんな手本で練習させるかという学習側の話です。学習済みモデルに入力を渡して結果を計算することは「推論」と呼ばれ、普段AIの回答を待つ場面はこちらに当たります。Googleが蒸留の利点として挙げる速度は、この推論にかかる時間に関する説明です。（出典: Google for Developers）

一般の利用者が仕組みを理解するために、自分で蒸留を実行する必要はありません。お手本を添えて依頼する工夫と、提供側がモデルを学習させる技術を分けておけば、日常の操作と技術説明を混同せずに読めるでしょう。

蒸留の説明で気をつけたいのは、教師モデルの評判を、そのまま生徒モデルの能力だと受け取ることです。Googleの用語集は、生徒モデルが教師モデルの予測をできるだけ忠実に再現するよう学習する一方、その予測は通常、教師モデルほど良くないと説明しています。「手本に近づける」という目的は、「すべての場面で同じ結果になる」という保証ではありません。（出典: Google for Developers）

架空の問い合わせ分類でも、典型的な文章だけなら扱えても、「商品が違うので交換したいのですが、明日までに届きますか」のように複数の要件が混ざると、判断が分かれるかもしれません。これは実測した失敗例ではなく、評価に含める場面の提案です。単純な文で得た結果だけから、込み入った文でも十分に使えると決めないための視点になります。



確認には、二つの物差しを用意すると整理しやすくなります。一つは教師モデルと同じ出力になっているか、もう一つは目的に照らして正しい出力かです。たとえば店の運用で「交換」は返品窓口に回すと決めているなら、そのルールに合うかを確認します。教師と生徒が同じ分類を出しても、店のルールに合っていなければ、その用途での確認は済んでいません。

「小さいから使い物にならない」と決めつけるのも早計でしょう。求める仕事が限られているなら、その範囲で必要な品質に達しているかを調べる余地があります。ただし、小さいという特徴だけで、特定の分類が得意だと断定することもできません。

読み手としては、「何のモデルから作ったか」に加え、「何をさせて、どう評価したか」に目を向けてください。元のモデルの名前は成り立ちを知る情報ですが、目の前の仕事を任せられるかどうかは、使いたい場面に沿った結果で判断する必要があります。

蒸留されたモデルを見かけたときは、「大きなモデルより上か下か」という一列の順位から少し離れてみてください。Googleが挙げる利点は、推論時間の短縮と、メモリやエネルギーの使用の低減です。同時に、予測の品質との兼ね合いも説明されています。実際の待ち時間や品質がどれほど変わるかは、蒸留という名前だけでは決まりません。（出典: Google for Developers）

用途を考える例として、先ほどの問い合わせ分類を使います。分類結果を人が確認してから振り分ける運用なら、間違いを確認する手間も含めて考えます。分類後に自動で処理を進める案なら、誤分類で何が起きるかまで検討したいところです。これは導入判断の提案であり、蒸留モデルならどちらの運用も問題なく実現できる、という説明ではありません。



比較する機会があれば、同じ目的の入力で確かめる方法を提案します。普段よく届く文章、言い回しが違う文章、複数の要件が混ざる文章を候補にし、必要な分類ができるかを見ます。待ち時間を比べる場合も、入力や利用条件が違えば単純には比較できません。確認していない段階で「何倍速い」「作業時間が半分になる」といった効果を見込まないことが大切です。

提供側の説明を読むなら、「評価した仕事」「教師との品質差」「速度を比べた条件」が手がかりになります。公開資料にない条件は、分からないまま区別しておきましょう。身近なサービスを使う読者なら、モデルの仕組みの説明に加えて、自分が求める出力を得られるかを見れば十分です。

今日できる一歩は、自分がAIに任せたい作業を一つだけ、具体的に書くことです。「何でも相談したい」より、「問い合わせ文を決めた分類に分け、迷う例は人が確認します」と書くほうが、必要な品質を考えやすくなります。その仕事でどこまで任せられるかを問うとき、蒸留は単なる小型化の言葉ではなく、用途と計算資源の釣り合いを考える手がかりになるでしょう。

- Glosario de aprendizaje automático: IA generativa（蒸留・プロンプトなどの項目）

参考資料の取得日時は2026年11月10日です。取得日は資料の公開日や、蒸留という技術の登場日を示すものではありません。