AI LAB / KEYWORD DICTIONARY

基礎知識

Shadow AI(シャドーAI)とは?

シャドーAIとは、組織のIT・セキュリティ部門による承認や把握、管理を受けずに、従業員などが業務でAIツールを利用することです。

仕組みと使いどころ

文章作成や要約、データ分析などに未承認の生成AIや機械学習サービスを使う行為が該当します。作業の効率化に役立つ場合がある一方、入力した機密情報や個人情報の漏えい、法令・社内規則への不適合、不正確な出力による判断や対外発信への悪影響が生じる可能性があります。シャドーAIはAIの種類や性能を示す用語ではなく、組織の承認・監督・ガバナンスを欠いた利用状態を指します。利用を全面的に禁止するだけでは使用が見えにくくなる可能性があり、実態の把握と明確な利用ルールが重要です。

Shadow AIの活用例

たとえば、こんな場面で

例えば、担当者が会議メモを要約するため、会社が承認していない生成AIへ内容を貼り付けるケースです。要約には利用できても、メモに個人情報や非公開情報が含まれていれば、情報管理上のリスクが生じます。

使うときのポイント

利用前に、ツールが組織の承認対象か、入力可能な情報の範囲、出力の確認手順を確かめます。組織側はAI利用の把握、未承認サービスへのアクセス管理、機密情報の送信防止、監査などを検討します。

参考資料

What Is Shadow AI? | IBM (新しいタブで開きます)Prevent data leak to shadow AI (新しいタブで開きます)Spotlighting ‘shadow AI’: How to protect against risky AI practices | Google Cloud Blog (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

Shadow AIが登場する記事から、次のヒントを。

新しい順 最新3件

  1. 生成AIを「禁止」せず安全に使う――中小企業の情報漏えい対策と段階導入の実務

    本文より

    …ここにあります。 企業が許可していないAIを従業員が業務に使う行為は「シャドーAI」と呼ばれます。国内会社員を対象とした調査では、会社が導入したものとは別の生成AIを日常的または特定業務で使う人が、回答者949人の70.3%に達したと報じられています。外部アプリとの連携や回答性能など、現場…

    記事を読む
  2. 機密を守り、現場で育てる「AI社員」――中小企業のためのローカルLLM・オンプレミス導入ガイド

    本文より

    …しないこと、終了後のデータ削除まで計画することが重要だ。 定着の鍵は、シャドーAIを生まない運用と現場参加 AI利用を一律に禁止しても、現場に明確な需要があれば、私用アカウントや未承認サービスへ流れる可能性がある。前述の報道では、医療関連IT企業が、従業員の利用希望サービスについて利用規約…

    記事を読む

日本語名や別名を含む記事もご紹介しています。