AI LAB / KEYWORD DICTIONARY

基礎知識

Deepfake(ディープフェイク)とは?

ディープフェイクとは、生成AIや深層学習モデルで作成・加工され、本物のように見聞きできる画像、動画、音声、文章などの合成メディアです。

仕組みと使いどころ

ディープフェイクは、実在人物の顔、表情、話し方、声、文章の調子などを模倣し、本人が発言・行動したように見せるために使われることがあります。音声の複製、人物になりすました動画、改変された本人確認書類、人間らしい文章などを生成でき、詐欺、フィッシング、偽情報、本人確認の回避に悪用される危険があります。一方、見た目や声が自然であることだけでは真正性を確認できません。検出技術はAIによる操作の可能性を示す判断材料になりますが、資料では確実な真偽判定を保証するものとは説明されていません。

Deepfakeの活用例

たとえば、こんな場面で

経営者を装う音声や映像で送金を求める連絡に備え、重要な依頼は登録済みの別経路で本人に確認する運用が考えられます。報道や投稿の確認では、画像・動画・音声の検出結果も参考にしつつ、発信元や原資料を照合します。

使うときのポイント

音声や映像だけで本人と判断せず、送金、アカウント操作、本人確認など重要な手続きでは別経路による確認を組み合わせます。検出結果は操作の可能性を示す情報として扱い、単独で真偽を断定しないことが重要です。

参考資料

Microsoft Defender | Microsoft 365 (新しいタブで開きます)How a new wave of deepfake-driven cyber crime targets businesses | IBM (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る