01 / UNDERSTAND
仕組みと使いどころ
入力の各部分が互いにどの程度関係するかに注目する仕組みを使い、文脈を扱うモデル構造です。多くの大規模言語モデルで利用され、文章以外の分野にも応用されています。Transformerという名称は製品名ではなく、モデルの構造を表します。
02 / IN PRACTICE
Transformerの活用例
たとえば、こんな場面で
文章の離れた場所にある単語の関係を、モデルが処理する。
03 / GOOD TO KNOW
使うときのポイント
同じ構造を使うモデルでも、学習データ、規模、調整方法によって性能は変わります。構造の名称だけで用途への適性を決めず、実際の作業で確かめます。
参考資料
AWS — Transformers （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。