01 / UNDERSTAND
仕組みと使いどころ
エンコーダー・デコーダー型のTransformerでは、エンコーダーが入力を中間表現へ変換し、デコーダーがその表現から有用な出力テキストを生成します。翻訳では、入力文の中間表現から翻訳文を作る役割を担います。一方、デコーダーのみの構成では、それまでに生成したテキストを基に新しいトークンを順次生成できます。オートエンコーダーでは、圧縮された中間表現から元の入力に近いデータを再構成します。ただし、生成や再構成の結果が常に正確とは限らず、オートエンコーダーの出力も元データと完全には一致しません。役割や利用できる入力はモデル構成によって異なります。
02 / IN PRACTICE
Decoderの活用例
たとえば、こんな場面で
音声認識システムでは、エンコーダーで音声を中間表現に変換し、デコーダーで文字列を生成する構成が考えられます。翻訳では、入力文の中間表現から別言語の文を生成する用途に使えます。
03 / GOOD TO KNOW
使うときのポイント
「デコーダー」という名称だけで機能を判断せず、エンコーダーとの組み合わせか、デコーダーのみか、何を入力として何を生成する構成かを確認してください。
参考資料
Machine Learning Glossary | Google for Developers （新しいタブで開きます）LLMs: What's a large language model? | Machine Learning | Google for Developers （新しいタブで開きます）Encoder Decoder Models · Hugging Face （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。