01 / UNDERSTAND
仕組みと使いどころ
人間による審査は、所定の条件に該当するAIの結果や高リスクの操作を人へ回し、人の判断を処理に組み込む手続きです。推論結果の信頼度が設定条件に該当した場合に審査作業を開始したり、重要な操作の実行前に承認を求めたりできます。すべての操作を一律に審査すると、審査者の疲労や形式的な承認を招くため、リスクに応じて対象を絞る方法が示されています。審査者には判断に必要な情報を提示し、応答期限、不在時のエスカレーション経路、審査者の識別情報、判断時刻などを記録します。
02 / IN PRACTICE
Human reviewの活用例
たとえば、こんな場面で
AIエージェントがデータ削除や外部への連絡を行う前に処理を停止し、操作内容、関連する情報、想定される影響を担当者へ提示して、承認または却下を求めます。
03 / GOOD TO KNOW
使うときのポイント
審査の開始条件、審査者に示す情報、回答期限、不在時の引き継ぎ、安全な既定動作、判断履歴として残す項目を事前に定めます。
参考資料
Create and Start a Human Loop （新しいタブで開きます）AGENTSEC04-BP02 Human-in-the-loop for critical decisions （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。