Context Compression（コンテキスト圧縮）とは？

01 / UNDERSTAND

仕組みと使いどころ

対話履歴が増えると、モデルへ渡すコンテキストも大きくなる。コンテキスト圧縮は、後続のターンに必要な状態をより少ないトークンで引き継ぎ、長時間の対話を継続しやすくする。OpenAI APIでは、設定したしきい値を超えたときにサーバー側で圧縮する方式と、専用のcompactエンドポイントを明示的に呼ぶ方式がある。返される圧縮項目は暗号化された不透明なデータで、人が読む要約を目的としない。専用エンドポイントへ送る圧縮前のコンテキストは、モデルのコンテキストウィンドウ内に収める必要がある。GoogleのLive APIでは、スライディングウィンドウと圧縮を開始するトークン数を設定するコンテキストウィンドウ圧縮が、セッションを長く保つために使われる。

02 / IN PRACTICE

Context Compressionの活用例

03 / GOOD TO KNOW

使うときのポイント

圧縮の設定方法と出力の引き継ぎ方はAPIごとに異なる。圧縮結果をそのまま渡す必要があるか、手動で履歴を削除してよいか、圧縮前の入力上限はいくつかを公式資料で確認する。