01 / UNDERSTAND
仕組みと使いどころ
単なる出力の短さではなく、完了率、完了時の正答率、生成量を組み合わせて、使ったトークンが有効な推論につながったかを捉える。作業量が分かる場合は、それに応じて生成量を正規化し、説明上の余分さと課題規模による増加を分けられる。単一の正答率や正答数当たりのトークン量だけでは、未完了、文脈切れ、冗長さなどの原因を区別しにくい。
02 / IN PRACTICE
Token Efficiencyの活用例
たとえば、こんな場面で
複数モデルに同じ推論課題を解かせ、完了率と正答率を保ったまま生成量を抑えられるか比較する。
03 / GOOD TO KNOW
使うときのポイント
生成量だけで優劣を決めず、完了率、正答率、課題の作業量、打ち切りの有無を併せて確認する。
参考資料
Beyond Accuracy: Decomposing the Reasoning Efficiency of LLMs （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。