AI LAB / KEYWORD DICTIONARY

AIエージェントのセキュリティ

Policy Check(ポリシーチェック)とは?

AIエージェントのツール要求を定義済みの規則で評価し、許可する操作を実行前に限定する仕組み。

仕組みと使いどころ

エージェントがツールを呼び出す前に、利用者やエージェントの識別情報、対象ツール、資源、入力値などを規則と照合する。モデルの判断とは別の境界で決定的に強制でき、入力や出力の検証、承認済みツールの管理、監査記録にも利用される。ただし、規則が過度に広い、検証対象が不十分といった場合は意図しない操作を防ぎきれない。

Policy Checkの活用例

たとえば、こんな場面で

送金ツールの呼び出しについて、利用者、金額、事前承認の有無を確認してから許可する構成が考えられる。

使うときのポイント

モデル生成の引数も検査対象か、規則が実行経路上で強制されるか、判断記録を追跡できるかを確認する。

参考資料

Secure agent tool usage - Agentic AI Lens (新しいタブで開きます)Policy in Amazon Bedrock AgentCore: Control Agent Interactions (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る