AI LAB / KEYWORD DICTIONARY

AIセキュリティ

Kill Switch(緊急停止機構)とは?

重大な脅威や異常を検知した際に、システムや機能を直ちに停止または安全な状態へ移す仕組み。

仕組みと使いどころ

高リスクな状況で被害の拡大を抑えるため、システム全体の停止、特定機能の無効化、安全モードへの移行、安定版への切り戻しなどを行う緊急対応機能です。停止手段だけでなく、実行手順を文書化しておくことも含まれます。ただし、停止中の重要業務の継続や復旧は別途計画する必要があり、この機構だけで事業継続が保証されるわけではありません。

Kill Switchの活用例

たとえば、こんな場面で

AIエージェントに不審な挙動が見つかった場合、外部ツールの実行機能を直ちに無効化する設計が考えられます。

使うときのポイント

停止対象、発動条件、担当者、切り戻しや安全モードへの移行手順が機能するかを確認します。

参考資料

8. Incident response and business continuity for agentic AI systems on AWS (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る