01 / UNDERSTAND
仕組みと使いどころ
AIにおける追跡可能性は、各判断や行動を明確かつ検証可能にする考え方です。特にAIエージェントでは、処理を開始した利用者やイベント、参照したデータ、モデルの応答、ツールの呼び出し、途中の判断記録などを関連付けて保存し、行動に至る流れを再構成できるようにします。これにより、監査、法令順守、障害調査、セキュリティ事案の分析に役立ちます。ただし、最終出力だけの記録では十分な再構成ができません。また、記録自体が判断の正しさを保証するわけではなく、ログに含まれる個人情報や秘密情報への対策も必要です。
02 / IN PRACTICE
Traceabilityの活用例
たとえば、こんな場面で
社内AIエージェントが外部ツールを実行する場合、利用者のセッション、入力、参照データ、ツールの入出力、判断時刻を関連付けて記録する運用が考えられます。問題発生時に、何をきっかけとしてどの処理が行われたかを確認できます。
03 / GOOD TO KNOW
使うときのポイント
記録対象が最終回答だけになっていないか、発端から行動まで検索・再構成できるかを確認します。ログの改ざん防止、アクセス制御、機密情報のマスキングも重要です。
参考資料
Determine trust, traceability, and transparency （新しいタブで開きます）Security considerations for data in generative AI （新しいタブで開きます）AGENTSEC05-BP01 Implement comprehensive logging and decision artifact storage （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。