グローバルエンジニアリング企業のアラップの財務担当者が、会社の最高財務責任者や同僚と見られるビデオ会議に参加した後、約2500万ドルを送金したが、その後、ほぼすべての参加者がAIによって生成されたものであったことが判明した。この事件は、攻撃者が説得力のある合成音声や顔を利用して人間の信頼を exploit し、技術的な制御を回避したことで成功した。Resemble AIが公開した新しいガイドによると、このケースはディープフェイクが孤立したデモンストレーションから企業、金融機関、政府機関に影響を及ぼす主流のセキュリティリスクへと進化した重要な例となっている。ガートナー、FBI、世界経済フォーラムの調査も、拡大する脅威の状況を示している。
アラップ社員、AI生成のビデオ会議中に2500万ドルの送金を承認
アラップの事例は、AIディープフェイク詐欺の代表的なケーススタディとなった。財務担当者は最初、機密取引を求めるフィッシングメールを疑ったが、すぐに行動せず、会社の最高財務責任者や数人の同僚と見られるビデオ会議に参加した。全員が本物のように見え、声も本物に聞こえ、会議は完全に正当なものに見えた。会議中に受け取った指示に従い、担当者は約2500万ドルの複数の送金を承認した。後に調査官が判明したのは、ほぼすべての参加者がAIを使って生成されたものであったことだった。この攻撃は、マルウェアや侵害されたエンドポイント、悪意のある添付ファイルを使わずに、長年改善されてきた技術的制御を回避したために成功した。担当者は疑わしいメールを正しく識別していたが、ビデオ会議中の顔や声の馴染みのある確認によって、その判断が覆された。
ガートナー、62％の組織がディープフェイク攻撃を経験
Resemble AIのレポートに引用されたガートナーの調査によると、過去12か月間に62％の組織がディープフェイク攻撃を経験した。攻撃の約7割はビデオシステムを標的とし、67％は音声ベースの通信を狙った。FBIの2025年インターネット犯罪苦情センターの報告では、AIを利用した詐欺により約8億9300万ドルの被害が報告されたと推定されている。研究者はまた、2025年には約800万点の合成メディアがオンラインで流通しており、数年前と比べて爆発的に増加していると推定している。方法論によって推定値は異なるが、すべての主要な調査は同じ方向を示している：AI生成の欺瞞は、既存のセキュリティ制御が対応できない速度で拡大している。金融機関にとって、その影響はソーシャルメディアの誤情報を超え、音声認識、ビデオ検証、デジタルアイデンティティへの信頼に依存するすべてのプロセスに潜在的な攻撃面が存在する。
音声クローン技術は数秒の音声だけで十分
Resemble AIのレポートは、組織はディープフェイクを孤立したサイバーセキュリティの事象とみなすのをやめ、むしろアイデンティティの問題として扱うべきだと主張している。音声クローン技術は、公開されている数秒の音声だけで説得力のある模倣を生成できる。会議のプレゼンテーション、決算説明会、ポッドキャスト、インタビューは、経営者になりすます攻撃者の訓練資料となる。ビデオ生成も同様に進化しており、かつては高価な視覚効果を必要としたものが、今や消費者向けAIツールを使って、説得力のある表情、同期した音声、リアルなビデオ通話を生成できるようになった。ガートナーは以前、2026年までに30％の企業がアイデンティティ検証をAI生成のディープフェイクに頼ることは信頼できなくなると予測しており、この予測は攻撃がより高度化するにつれてますます重要になっている。
金融サービスは経営者のなりすましや投資詐欺に直面
ディープフェイク攻撃は多くの業界に影響を及ぼすが、特に金融サービスは高価値の意思決定の多くが信頼できる通信に依存しているため、特有のリスクを抱えている。支払い承認、口座回復、リモートオンボーディング、資産管理の相談、顧客サポートは、従来は視覚や音声認識によってアイデンティティを確認していたが、デジタルチャネル上で行われることが増えている。ガイドは、すでに組織に影響を与えているいくつかの攻撃パターンを特定している。経営者のなりすましは最も高価値のカテゴリーであり、クローンされた経営者を使って不正な支払いを承認する。投資詐欺は、政治家や有名人、金融の著名人のAI生成動画を使った偽の取引や暗号通貨プラットフォームの宣伝に引き続き利用されている。採用詐欺も増加しており、合成アイデンティティやAI生成の応募者が組織内に入り込み、敏感なシステムや情報にアクセスしようとするケースもある。消費者詐欺は、家族になりすました音声を使ったバーチャル誘拐詐欺やカスタマーサポートのなりすまし攻撃を通じて進化し続けている。
従来のセキュリティツールは認識に基づく攻撃を検知できない
レポートは、多くのサイバーセキュリティ投資がマルウェアや疑わしいメール、侵害されたデバイスの検知に集中している一方、ディープフェイクはネットワークではなく認識を攻撃するため、異なる動作をすると指摘している。正規の従業員が信頼できるノートパソコンを使って通常のビデオ会議中に支払いを承認した場合、従来のセキュリティ制御は異常を検知しないことが多い。悪意のある添付ファイルもなく、侵害されたデバイスも存在しない。単に人間が詐欺的な映像や音声証拠に基づいて正当なビジネス判断を下しているだけだ。この違いが、企業がディープフェイク検知を既存のアンチフィッシング技術の延長ではなく、別のセキュリティ分野とみなす理由となっている。
Resemble AIガイドは4層防御戦略を推奨
レポートは、単一のソリューションに頼るのではなく、4つの補完的な能力を組み合わせた層状のアプローチを推奨している。第一は、ライブネス検出と継続的認証によるアイデンティティ検証。第二は、Content Credentialsやデジタルウォーターマーキングなどの技術を使った出所証明。第三は、音声、映像、画像を分析し、合成生成に伴うアーティファクトを検出できるAI検知システムと、その結果を説明可能にする仕組み。最後の層は、検知を超えて継続的な監視を行い、経営者のなりすましや不正ブランド使用、公開されたディープフェイクの拡散を事前に特定する。レポートによると、どの層も完全に脅威を排除できず、攻撃者は最終的に個別の制御を回避すると想定し、セキュリティプログラムを設計すべきだとしている。
よくある質問
アラップのディープフェイク事件で何が起きたのか？
グローバルエンジニアリング企業のアラップの財務担当者が、会社の最高財務責任者や数人の同僚と見られるビデオ会議に参加した後、約2500万ドルを送金した。調査の結果、ほぼすべての参加者がAIによって生成されたものであり、攻撃者は説得力のある合成音声と顔を使って人間の信頼を exploit し、技術的なセキュリティ制御を回避したことが判明した。
ガートナーによると、何組織がディープフェイク攻撃を経験したのか？
Resemble AIのレポートに引用されたガートナーの調査によると、過去12か月間に62％の組織がディープフェイク攻撃を経験した。攻撃の約7割はビデオシステムを標的とし、67％は音声通信を狙った。FBIの2025年インターネット犯罪苦情センターの報告では、AIを使った詐欺により約8億9300万ドルの被害が報告されたと推定されている。
Resemble AIのガイドはディープフェイクに対してどのような防御戦略を推奨しているか？
レポートは、ライブネス検出と継続的認証によるアイデンティティ検証、Content Credentialsやデジタルウォーターマーキングによる出所証明、合成アーティファクトを分析するAI検知システムと説明可能な結果、そして継続的監視を組み合わせた4層防御戦略を推奨している。
