AI LAB / KEYWORD DICTIONARY

AIエージェントと検証

Evidence Contract(証拠契約)とは?

AIエージェントの主張が、どの証拠と条件に基づいて成立するかを記録・検証する取り決め。

仕組みと使いどころ

データベースを扱うLLMエージェントで、結果を主張へ結び付ける際の信念状態、結果の完全性、出所を扱う。実行記録と型付きの主張を照合し、存在しない結果項目や、部分的な件数を全体件数として述べる誤りを検出する。証拠への忠実さは高められるが、利用者の意図を正しく解釈したことまでは保証しない。

Evidence Contractの活用例

たとえば、こんな場面で

検索結果の件数を回答する前に、全件を取得済みかと、その件数を支える実行記録を照合する用途が考えられる。

使うときのポイント

主張ごとに参照記録、完全性、出所を確認し、部分結果を全体結果として扱っていないか確かめる。

参考資料

No Trace, No Claim: Two Contracts for Database Agents (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る