01 / UNDERSTAND
仕組みと使いどころ
本資料でいう動的な文脈は、モデルが事前学習で得た一般知識とは別に、実行時の会話や質問に応じて与えられる情報です。過去のユーザーとアシスタントの発言を次の入力に含めれば、会話の流れを保ちやすくなります。また、RAGでは質問に関連する文書や例を検索し、文脈として動的に追加できます。ただし、テキスト生成の各リクエストは基本的に独立しているため、履歴や状態はアプリケーション側で引き継ぐ必要があります。誤った情報や無関係な情報を渡したり、文脈を長くしすぎたりすると、必要な情報を見落とす場合があり、正確な回答が保証されるわけではありません。
02 / IN PRACTICE
Dynamic Contextの活用例
たとえば、こんな場面で
社内向け質問応答では、利用者の質問に関連する規程を検索して入力へ加える方法が考えられます。続けて質問された場合は、それまでの会話も渡すことで、直前の話題を踏まえた応答を促せます。
03 / GOOD TO KNOW
使うときのポイント
どの会話履歴や検索結果を入力に含めるかを明確にし、無関係な情報を減らします。文脈の長さを変えて評価し、必要な情報が回答に反映されているか確認します。
参考資料
Optimizing LLM Accuracy | OpenAI API （新しいタブで開きます）Conversation state | OpenAI API （新しいタブで開きます）Basic reasoning agents - AWS Prescriptive Guidance （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。