AI LAB / KEYWORD DICTIONARY

基礎知識

Token consumption(トークン消費量)とは?

モデルへの入力と、モデルが生成する出力で使用されるトークンの量。文脈上限や費用の見積もりに関係する。

仕組みと使いどころ

入力には指示文や会話だけでなく、画像、ファイル、ツール定義、スキーマ、メッセージ構造を表すトークンも含まれる。出力には推論過程と最終結果のトークンが含まれ得る。画像の消費量はサイズや詳細度などに左右され、モデル固有の処理もあるため、文字数からの単純な換算やローカル計測では正確に捉えられない場合がある。

Token consumptionの活用例

たとえば、こんな場面で

送信予定の入力を事前に数え、文脈上限への収まりやAPI呼び出し前の費用見積もりに使う。

使うときのポイント

可能なら実際に送るものと同じ入力形式で数える。特に画像、ファイル、ツール定義を省かず確認する。

参考資料

Counting tokens | OpenAI API (新しいタブで開きます)Prompt tokens (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る