01 / UNDERSTAND
仕組みと使いどころ
文章そのもの、会話メッセージ、または指示と回答の組を教師データとして使う。モデルは先行トークンを条件に正解の次トークンを予測し、対象系列の負の対数尤度、実装上はトークン単位の交差エントロピーを小さくするよう学習する。回答部分だけを損失対象にする設定も可能である。得られる能力は教師データの内容や形式に依存し、この工程だけで出力の正しさが保証されるわけではない。
02 / IN PRACTICE
SFTの活用例
たとえば、こんな場面で
指示と望ましい回答の組を用意し、基盤言語モデルを特定分野の質問形式や回答形式へ適応させる用途に使える。
03 / GOOD TO KNOW
使うときのポイント
データ形式、チャットテンプレート、損失を計算する範囲、切り捨てで必要なトークンが消えないかを確認する。
参考資料
SFT Trainer · Hugging Face （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。