01 / UNDERSTAND
仕組みと使いどころ
AIシステムが定められた条件下で、人命、健康、財産、環境を危険な状態へ導かないようにするための設計・評価上の領域である。誤った目的設定、副作用、報酬の抜け道、危険な探索、利用環境の変化などによる意図しない有害な挙動を扱う。安全性は信頼性やセキュリティなどとも関係するが、単独の評価項目だけでは保証できない。
02 / IN PRACTICE
AI safetyの活用例
たとえば、こんな場面で
導入前のシミュレーションや対象領域での試験により、想定外の挙動と影響を調べる使い方が考えられる。
03 / GOOD TO KNOW
使うときのポイント
利用状況と危害の重大性を踏まえ、監視、人の介入、停止や変更が可能かを確認する。
参考資料
AI Risks and Trustworthiness - AIRC （新しいタブで開きます）Concrete Problems in AI Safety （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。