01 / UNDERSTAND
仕組みと使いどころ
人が直接評価しにくい複雑な課題に対し、より容易な部分問題の解決を組み合わせて訓練信号を作り、その成果を学習へ取り込む工程を繰り返す考え方である。資料では、反復的な自己改善を用いるアラインメント戦略として言語モデルの学習に採用されている。もっとも、提示資料からは、そのモデル固有の各反復の詳しい設計や適用条件までは確認できない。
02 / IN PRACTICE
IDAの活用例
たとえば、こんな場面で
難題を扱う訓練信号を部分問題の解決から構成し、次の学習反復へ反映する用途が考えられる。
03 / GOOD TO KNOW
使うときのポイント
増幅で何を組み合わせ、蒸留で何を学ばせるのかを反復ごとに確認する。
参考資料
deepcogito/cogito-v1-preview-llama-3B · Hugging Face （新しいタブで開きます）Supervising strong learners by amplifying weak experts （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。