01 / UNDERSTAND
仕組みと使いどころ
主な意味は、AIシステムの機密性・完全性・可用性を保ち、安全で信頼できる状態を維持することである。対象となる脅威には、学習データを汚染するデータポイズニング、入力を細工して誤動作させる敵対的攻撃やプロンプトインジェクション、モデルから情報を推測する攻撃、不正アクセス、設定不備、供給網の脆弱性などがある。対策には、データの暗号化と出所確認、アクセス制御、モデルのテスト、監視、監査が含まれる。一方、「AIを用いたサイバーセキュリティ」は、大量のイベントデータから異常や脅威を検出し、対応を支援・自動化する別の概念である。AIによる判定にも誤検知や不正確な結果があり得るため、導入だけで安全が保証されるわけではない。
02 / IN PRACTICE
AI Securityの活用例
たとえば、こんな場面で
生成AIサービスを導入する際、学習・入力データへのアクセスを制限し、操作履歴と異常な挙動を監視する。公開前には、機密情報を引き出すプロンプトやモデルを誤動作させる入力を想定してテストする、といった活用が考えられる。
03 / GOOD TO KNOW
使うときのポイント
用語を使う際は、「AIシステム自体を守ること」と「AIで既存システムを守ること」のどちらを指すか明記する。データ、モデル、アクセス、監視を個別に確認し、AIの出力だけで安全性を判断しない。
参考資料
What Is AI Security? | IBM （新しいタブで開きます）What Is AI Security? Protect AI Systems | Microsoft Security （新しいタブで開きます）Fundamentals of AI Security - Training （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。