01 / UNDERSTAND
仕組みと使いどころ
定期評価、脅威モデリング、内部・外部のレッドチーム、専門家への相談、第三者評価、導入前試験などを組み合わせてAIのリスクを調べる。対象には、サイバー攻撃、化学・生物・放射線・核に関する脅威、AIによる妨害や制御喪失、有害な操作、自律的能力、欺瞞、脱獄、差別などが含まれ得る。評価方法にはそれぞれ強みと弱みがある。質問回答形式の試験は実行しやすい一方、現実のリスクを十分に表さない場合があり、自動タスク評価には現実的な仮想環境や安全な実行基盤が必要になる。また、試験ですべての関連能力を引き出せるとは限らない。
02 / IN PRACTICE
AI Safety Evaluationの活用例
たとえば、こんな場面で
新しいモデルの公開前に、想定する脅威に対応した試験と専門家によるレッドチームを実施し、必要な対策を検討する。
03 / GOOD TO KNOW
使うときのポイント
評価が対象とする脅威、試験方法の現実性、外部評価の有無、導入後の監視方法を確認する。
参考資料
Anthropic’s Transparency Hub （新しいタブで開きます）Reflections on our Responsible Scaling Policy （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。