ディープフェイク詐欺対策｜本物そっくりの声・映像に騙されないために

「上司からのビデオ通話」「取引先社長からの電話」——それが本物である保証は、もはやありません。AIによる音声・映像合成の精度が急速に向上し、実在の人物になりすました「ディープフェイク詐欺」が、個人にも企業にも現実の脅威になっています。この記事では、手口の仕組みと実際に起きた事件、そして個人・企業それぞれが今日からできる防御策を整理します。

ディープフェイク詐欺とは

こうした「経営者や取引先になりすまして送金・情報開示を指示する」手口自体は、ディープフェイク以前から「ビジネスメール詐欺（BEC）」として知られていました。ディープフェイクはこのBECに、映像・音声という新しい説得力を与えた技術だと理解すると全体像がつかみやすくなります。手口の分業構造はソーシャルエンジニアリングの記事とも共通しており、AI活用全般の背景はAIとサイバーセキュリティの記事でも取り上げています。

なぜ人間は見抜けないのか

「不自然な動きだから気づけるはず」——そう思いたくなりますが、実際の調査結果は厳しい現実を示しています。

ある調査では、参加者が高品質なディープフェイク映像を正しく識別できた割合はわずか24.5%で、これはコイントスで当てずっぽうに答えるより低い数字です¹。さらに深刻なのは、56%の企業が「自社はディープフェイクを見抜ける自信がある」と回答した一方で、実際に攻撃を受けた際に被害を防げた企業はわずか6%だったという調査結果です。「自信」と「実際の対応力」の間に大きなギャップがあることがわかります。

実際に起きた3つの事件

理論だけでなく、実際に何が起きたのかを見てみましょう。1つは被害が出た事件、2つは未遂に終わった事件です。

事件1：香港Arup社、約25億円の被害（2024年）

イギリスの大手設計会社Arup社の香港拠点で、経理担当の従業員がCFO（最高財務責任者）を名乗る人物からのメールを不審に思いつつも、その後招待されたWeb会議に参加しました。画面には見慣れたCFOや複数の同僚が映っていましたが、実際に本物だったのはこの従業員だけで、他の参加者は全員AIが生成したディープフェイクでした。指示に従って15回に分けて送金した結果、被害額は合計で約2,500万米ドル（約25億円）にのぼりました²。

事件2：フェラーリ社、「本人しか知らない質問」で見破る（2024年）

自動車メーカーのフェラーリでは、CEOのベネデット・ヴィーニャ氏になりすました人物からWhatsAppで連絡があり、「極秘の買収案件についてすぐに機密保持契約に署名してほしい」と迫られました。声色や南イタリアなまりまで精巧に模倣されていましたが、対応した幹部は違和感を覚え、電話で「数日前にヴィーニャ氏本人から勧められた本のタイトルは何か」と尋ねました。詐欺師はこれに答えられず、通話は切られました。被害は一切発生しませんでした³。

事件3：広告大手WPP社、CEOなりすまし未遂（2024年）

世界最大級の広告会社WPPでは、CEOのマーク・リード氏になりすましたグループが、偽のWhatsAppアカウントとMicrosoft Teams通話を使い、AIによる音声クローンとYouTube映像から合成した音声で幹部に接触し、金銭や個人情報を引き出そうとしました。この試みは未遂に終わっています⁴。

3つの事件を並べると、被害を防げるかどうかを分けたのは「映像・音声の精巧さ」ではなく、「別経路での確認を行ったかどうか」だったことがわかります。

個人ができる防御策

家族や高齢の親族を狙う「オレオレ詐欺」的な手口にも、ディープフェイクの声が使われ始めています。フィッシング詐欺の見分け方で紹介している「急かす・不安にさせる」という心理的な手口の基本は、ディープフェイク詐欺にもそのまま当てはまります。

企業ができる防御策

これらは新しい発想というより、セキュリティ意識向上の取り組みやインシデント対応の体制を、ディープフェイク時代向けにアップデートする作業に近いものです。近年はAIエージェントが標的企業の情報収集を自動化し、ディープフェイクと組み合わせて攻撃を個別最適化する懸念も指摘されており、AIエージェントのセキュリティリスクの記事もあわせて確認しておくと理解が深まります。また、こうした対策の実施状況は、サイバー保険の加入審査で確認されることも増えています。

まとめ

• ディープフェイク詐欺は、AIで合成した音声・映像を使い、経営者や取引先になりすまして送金・情報開示をさせる手口
• 人間がディープフェイク映像を見抜ける精度は約24.5%しかなく、『見た目・声の自然さ』はもはや信頼の根拠にならない
• Arup社（約25億円の被害）とフェラーリ社・WPP社（未遂）の違いは、映像の精巧さではなく『別経路での確認』の有無だった
• 個人は折り返し確認・個人的な質問・合言葉、企業は多重承認・承認経路の分離を仕組み化することが現実的な対策になる
• 実例を使った継続的な研修と、インシデント対応手順への組み込みが、組織としての防御力を高める

もう少し詳しく（背景）

ディープフェイク詐欺が急拡大した背景には、AI音声合成・映像合成の低コスト化があります。数年前は高度な技術と多くのサンプル音声・映像が必要でしたが、現在では短い音声サンプルからでも自然な声を合成できるツールが安価に、あるいは無料で出回っています。この結果、著名な経営者だけでなく、SNSに公開情報が少ない中小企業の経営者や、家族間の詐欺にまで対象が広がりつつあります。

一方で、被害の実態はまだ氷山の一角とも言われています。音声クローン詐欺の被害者のうち、実際に届け出を行った割合はごく一部にとどまるとの指摘もあり⁵、統計に表れる数字以上に被害が広がっている可能性があります。「うちは狙われるほどの会社ではない」という思い込みこそが、ディープフェイク詐欺にとって最大の弱点になりかねません。基礎から体系的に学びたい方は、サイバーセキュリティとは？から読み進めることをおすすめします。

Footnotes

1. 高品質なディープフェイク映像に対する人間の識別精度を調べた調査での数値。静止画の識別精度は62%とやや高いが、動画になると精度がさらに下がる傾向が報告されている。 ↩

2. Arup社の被害額は約2,500万米ドル（当時のレートで約25億円）。15回に分けて実行された送金取引がすべて実行された後、本社への確認によって詐欺が発覚した。 ↩

3. フェラーリのケースでは、詐欺師はCEOの声・訛りまで模倣していたが、事前にヴィーニャ氏本人と交わした個人的な会話内容（推薦書籍のタイトル）には答えられなかった。 ↩

4. WPP社のケースでは、偽のWhatsAppアカウントとMicrosoft Teamsを使い、AI音声クローンとYouTube上の公開映像を組み合わせて音声を合成していたと報じられている。 ↩

5. 音声クローンを使った詐欺被害のうち、警察・関係機関に正式に届け出た被害者の割合はごく一部にとどまるとの調査結果があり、実際の被害規模は公表統計より大きい可能性が指摘されている。 ↩