ディープフェイク詐欺とは？BEC・音声クローンの手口と実装者向けの検知・防御を解説

ディープフェイク詐欺とは、生成AIで人物の顔や声を本物そっくりに偽装し、その姿や声を信じさせて送金や情報提供をさせる詐欺です。狙われるのは、システムの穴ではなく「相手を本人だと信じる」人間の判断そのもの。経営幹部になりすましたビデオ会議や、数秒の音声から複製した声での電話が、正規の承認フローを内側からすり抜けます。この記事で扱うのは、ビジネスメール詐欺（BEC）・ビデオ会議偽装・音声クローン電話という手口の分類、liveness detectionやC2PA・電子透かしによる真贋判定がどこまで到達し何を防げないか、DMARCなどメール経路の技術統制、そして検知だけに頼らず送金プロセスの多段承認とコールバックで固める運用設計です。防御を組み込む実装者の解像度で整理します。

まとめ｜ディープフェイク詐欺は本人性を偽る攻撃、検知技術とプロセス統制の二層で守る

ディープフェイク詐欺は、暗号やファイアウォールのような技術の壁を破るのではなく、その壁の内側にいる「本人」の顔と声をコピーして、正規の承認を引き出す攻撃です。顔認証や声の聞き分けといった人間側の判断を土台にした本人確認は、生成AIが本物と見分けにくい偽装を作れるようになった時点で、単独では前提が崩れます。守る対象がパスワードではなく「本人であること（本人性）」だという点が、他のなりすまし攻撃との違いになります。

防御は、検知だけでは完結しません。動画の真贋判定は精度が半分程度にとどまるとする研究もあり、偽物を100%見抜く技術はまだ存在しない。だからこそ、liveness detectionやC2PAによる出所証明で「偽装を疑う入口」を作りつつ、送金や権限変更のプロセス側で「本人だと信じても、別経路で確認しなければ実行できない」構えを重ねる。この二層があって初めて、本人性を突く攻撃に耐えられます。検知の実装とログ監視、未知の手口への対応は、AIによる防御と生成AIを守るセキュリティ対策で相談段階から支援しています。

ディープフェイク詐欺とは何か｜定義と従来のなりすまし詐欺との違い

まず、この詐欺が「何を偽装し、何を狙うか」を押さえると、後半の検知・防御の位置づけが掴めます。ディープフェイク詐欺は、人の判断の隙を突くソーシャルエンジニアリングの一種でありながら、偽装の材料が生成AIに置き換わった点で被害の規模と説得力が一段上がっています。

生成AIで顔・声を偽装する仕組みと、従来のBEC・なりすまし電話との違い

従来のビジネスメール詐欺（BEC）は、経営幹部を騙るテキストのメールが主役でした。文面の不自然さや、いつもと違う言い回しが見破る手がかりになった。ディープフェイク詐欺は、この「文字だけ」の限界を超え、本人の顔が映るビデオや、本人の声そのものの電話を武器にします。攻撃者は公開された講演動画やSNS、決算説明の録画から数十秒の映像・音声を集め、生成AIのモデルに学習させて、リアルタイムに近い偽装を作ります。受け手にとっては「メールなら疑ったが、顔と声が本人だったので信じた」という逆転が起きる。人の判断を突く手口全体の分類と技術的対策はソーシャルエンジニアリングの手口の分類と実装者向けの技術的対策で扱っており、ディープフェイクはその偽装精度を生成AIで押し上げた発展形にあたります。

被害が拡大する構造と、音声クローン技術のしきい値低下という背景

被害が広がる背景には、偽装のコストが下がったという構造がある。以前は映画のVFXに近い設備と時間が要ったものが、公開モデルとGPUがあれば個人でも動かせる水準まで下がりました。音声については、数秒から十数秒の短いサンプルだけで、話し方の癖まで含めて声質を再現できる技術が公開されています。日本語の音声クローンの具体的な仕組みと手順はGPT-SoVITSなど日本語音声クローンの仕組みと使い方で解説しており、これは防御側が「攻撃者が何を使い、どこまで再現できるか」を知る前提になる。被害額も無視できない規模で、2025年1〜3月だけでディープフェイクを用いた詐欺による世界全体の被害が300億円規模に及んだと報じられています。しきい値が下がったぶん、標的も大企業の役員から中小企業の経理担当へと広がりました。

主な手口の分類｜経営層なりすまし送金・ビデオ会議偽装・音声クローン電話

手口は、何を偽装するかで束ねると理解が早い。テキスト＋αのBEC、映像を使うビデオ会議偽装、声を使う音声クローン電話の3つに分けて、代表的な流れを押さえます。いずれも共通するのは、正規の権限を持つ人に「本人からの正規の指示」だと思わせて動かす点です。

生成AIで精度を上げた経営層なりすまし送金（BEC・CEO詐欺）

件数の土台になるのがBECの延長線です。攻撃者は経営幹部や取引先を騙り、「至急、この口座へ振り込んでほしい」と経理担当に指示します。生成AIは、対象企業の公開情報から文体や過去のやり取りを模した自然な日本語のメールを量産し、翻訳調の不自然さという従来の見破り材料を消しました。さらに、テキストへの疑いを打ち消すために、後述の音声やビデオを組み合わせて「本人性」を上書きしてくる。BECはメールを入口にすることが多く、なりすましメール自体を届く前に落とす送信ドメイン認証が第一の技術統制になります。認証の失敗したメールを拒否するところまで運用する差については、DMARCのnone・quarantine・rejectが分けるなりすまし防御の差で詳しく整理しています。

複数人を偽装するビデオ会議偽装と、リアルタイム顔スワップの実例

説得力が最も高いのが、ビデオ会議をまるごと偽装する手口です。2024年に報道された事例では、多国籍企業の香港拠点の財務担当者が、生成AIで偽装された最高財務責任者や同僚とのオンライン会議を信じ込み、指示のまま約2,500万ドル（当時のレートで日本円にして数十億円規模）を送金してしまったとされます。会議の参加者が担当者以外すべて偽物だった、という点がこの事例の怖さです。リアルタイムの顔スワップは、まばたきの不自然さや輪郭のぶれ、光の当たり方の破綻といった手がかりを残しますが、画質を落とした通話や短時間の会議では見抜くのが難しい。「複数人が同席しているから本物だろう」という常識が、そのまま突破口になります。

数秒の音声から声を複製する音声クローン電話と、家族・上司なりすまし

電話という枠に絞ると、音声クローンが主役になります。攻撃者は本人の声を短いサンプルから複製し、「上司からの至急の送金指示」や「事故に遭った家族からの助けを求める電話」を作ります。声という、これまで本人確認の最後の砦とされてきた要素が偽装されるため、受け手は疑う余地を持ちにくい。特に電話は、ビデオと違って顔の破綻という手がかりがなく、緊急性で相手を急かす手口と相性が良い。声だけを根拠にした本人確認をやめ、コールバックや合言葉といった別経路の確認に切り替えることが、この手口への直接の対抗策になります。

技術的な検知・防御の設計｜liveness・C2PA・送信ドメイン認証の到達点と限界

偽装される前提に立つと、技術側の役割は「本物である確からしさを検証し、疑う入口を作る」ことに定まります。生体の実在確認、コンテンツの出所証明、メール経路の統制という3層で、実装者が組み込める仕組みと、その限界を順に見ていきます。先に押さえるべきは、どの技術も単独では偽物を完全には排除できないという到達点です。

本人確認でのliveness detectionと、動画検知の精度限界

オンラインの本人確認では、liveness detection（実在性検証）が土台になります。カメラの前にいるのが写真や録画、合成映像ではなく「その場にいる生身の人間」かを、まばたきや顔の動き、深度情報などから判定する仕組みです。AWSのAmazon Rekognition Face Livenessを使った実装例と、なりすまし防止の考え方はFaceLivenessDetectorによるなりすまし防止の実装で扱っています。ただし限界も明確です。ディープフェイクの検知は、画像単体では高い精度（9割超）を出せても、動画になると精度が半分程度にとどまるとする研究があり、攻撃側の生成モデルが更新されるたびに検知側が追随を迫られる「いたちごっこ」から抜けられません。liveness detectionは口座開設などの重要な本人確認ゲートに置く価値がありますが、これだけで全通話・全会議を守れると考えるのは危険です。

C2PA・電子透かしによるコンテンツの出所証明と、EU AI Actの規制動向

偽物を見抜く方向とは逆に、本物に「これは正規の出所だ」という証明を付ける方向の技術が育っています。C2PA（Coalition for Content Provenance and Authenticity）は、写真・動画・生成コンテンツの出所と編集履歴を電子署名で検証可能にするオープンな標準で、Google Pixel 10やSamsung Galaxy S25が端末側で対応し、国内でもNTTドコモが偽情報対策の実証を進めていると報じられています。あわせて、GoogleのSynthIDのような、人には見えない電子透かしを生成物へ埋め込むアプローチも実装が進む。規制面では、EUのAI規制（AI Act）第50条が2026年8月に適用され、生成コンテンツへのマーキングが事実上求められる方向にあります。出所証明は「疑う入口」を制度として広げる打ち手ですが、透かしの無いコンテンツ＝偽物とは限らないため、証明の有無を運用ルールへどう組み込むかの設計が実務の肝になります。

DMARC(reject)と多要素認証による、メール経路と認証情報の技術統制

ディープフェイクが顔と声を偽装しても、その多くはメールという入口から始まります。ここは技術で落とせる領域です。SPF・DKIM・DMARCの送信ドメイン認証を、認証に失敗したメールを拒否（reject）するところまで運用すれば、自社を騙るなりすましメールが取引先や社員に届く前に弾かれます。noneで様子見のまま止めている組織が多く、rejectへ進めるかどうかが防御力の分かれ目です。加えて、偽装で認証情報を抜かれても被害に直結させないために、フィッシング耐性のある多要素認証（パスキー／FIDO2）を認証ゲートに置く。顔や声の偽装は「本人性の詐称」ですが、その先で狙われるのはログインや送金の権限であり、経路と認証の統制が被害を止める最後の技術的な砦になります。こうした検知・認証・ログ監視の実装と運用は、AIによる防御と生成AIを守るセキュリティ対策で対応しています。

検知に頼り切らない防御設計｜プロセス統制と多段承認で被害を止める優先順位

ここからは判断の話です。検知技術を積んでも、偽物を完全には排除できない以上、埋まらない領域が残ります。そこをプロセスと運用でどう補うか、そして検知偏重の設計がなぜ失敗するかを、条件を付けて言い切ります。

検知だけに頼る設計が失敗する理由と、送金プロセスの多段承認・コールバック

検知だけに寄せた設計は、2つの理由で崩れます。ひとつは、動画検知の精度が半分程度という到達点で、見逃し（偽物を本物と判定）が構造的に残ること。もうひとつは、精度を上げようと閾値を厳しくすると、本物を偽物と弾く誤検知が増え、正規のビデオ会議や本人確認が止まって業務が回らなくなることです。誤検知の多発は、現場が検知アラートを無視する運用を生み、かえって守りを弱めます。だから軸足は、偽物を100%見抜くことではなく、「本人だと信じても、独立した別経路で確認しなければ資金や権限が動かない」というプロセス統制に置きます。具体的には、一定額以上の送金や口座変更に複数人の承認を必須にする多段承認、指示を受けた側が登録済みの番号へ折り返して確認するコールバック、あらかじめ決めた合言葉での二者確認です。ビデオや電話の「本人性」を根拠に単独で実行できない仕組みにすれば、偽装の精度が上がっても被害の実行段階で止められます。ここは技術より運用ルールの設計が効く領域だと言い切れます。

中小企業がまず着手すべき対策の優先順位と、過剰投資になる場面の線引き

すべてを一度に導入する必要はありません。人的リソースの限られる組織ほど、費用対効果の高い順に絞り込む。最優先は、送金・口座変更のプロセスにコールバックと多段承認を組み込むことで、これはツール購入を伴わず、ルールの明文化と周知だけで最大の被害経路であるBEC送金を止められます。次が、自社ドメインのDMARCをrejectまで進めることと、フィッシング耐性のある多要素認証の全社適用。この2つも追加コストが小さく効果が大きい。高価なディープフェイク検知エンジンやliveness基盤の本格導入は、口座開設のような不特定多数の本人確認を扱う事業に絞って、その次に検討すればよい段階的な投資です。逆に過剰投資になりやすいのは、送金権限を持つ担当が数人しかいない組織が、プロセス統制を後回しにして高価な映像検知製品を先に契約するケースです。まず自社で「顔・声を信じて動くと危ない業務はどこか」（送金か、権限付与か、機微情報の開示か）を洗い出し、その業務のプロセスから先に固める。この優先順位づけと検知の実装設計は、AIによる防御と生成AIを守るセキュリティ対策で相談段階から支援しています。

よくある質問

ディープフェイク詐欺の対策検討でよく挙がる質問に回答します。

ディープフェイク詐欺と従来のビジネスメール詐欺（BEC）の違いは何ですか？

偽装する材料が違います。従来のBECは経営幹部を騙るテキストのメールが中心で、文面の不自然さが見破る手がかりになりました。ディープフェイク詐欺は、生成AIで本人の顔が映るビデオや本人そのものの声を作り、テキストへの疑いを「顔と声は本人だった」という体験で上書きします。受け手が最も信じやすい要素を偽装するため説得力が高く、被害額も大きくなりやすい点が特徴です。

ディープフェイク動画や音声は技術で見分けられますか？

完全には見分けられません。画像単体の検知は高い精度（9割超）を出せる一方、動画では精度が半分程度にとどまるとする研究があり、攻撃側の生成モデルが更新されるたびに検知側が追随を迫られます。まばたきの不自然さや輪郭のぶれ、光の破綻が手がかりになりますが、低画質の通話では判別が難しい。検知技術は「疑う入口」として置きつつ、コールバックなど別経路の確認と組み合わせるのが実務的です。

音声クローンによるなりすまし電話にはどう備えればよいですか？

声だけを根拠にした本人確認をやめることが直接の対策です。数秒から十数秒の音声サンプルで声質を再現できる技術が公開されており、電話は顔の破綻という手がかりも無いため偽装を見抜きにくい。送金や機密情報の指示を電話で受けたら、登録済みの番号へ折り返すコールバックや、事前に決めた合言葉での確認を必須にします。緊急性を強調して急がせてくる指示ほど、一度止めて別経路で裏を取ります。

C2PAや電子透かしを導入すれば偽装コンテンツを排除できますか？

排除まではできません。C2PAは正規コンテンツに出所と編集履歴の証明を付ける標準で、SynthIDのような電子透かしと合わせて「本物であることの証明」を広げる打ち手です。ただし、証明の無いコンテンツが必ず偽物とは限らず、既存の膨大な素材には透かしがありません。証明の有無を本人確認や公開判断のルールへどう組み込むかの運用設計が伴って初めて機能します。EUのAI Act第50条など、マーキングを求める規制動向と併せて位置づけます。

中小企業がまず取り組むべき対策は何ですか？

費用対効果の高い順に絞るのが基本です。最優先は、送金・口座変更のプロセスにコールバックと多段承認を組み込むことで、ツール購入を伴わずルールの明文化だけでBEC送金を止められます。次に自社ドメインのDMARCをrejectまで運用し、フィッシング耐性のある多要素認証を全社へ適用する。高価な映像検知エンジンやliveness基盤は、不特定多数の本人確認を扱う事業に絞って段階的に検討します。

関連記事

• ソーシャルエンジニアリングとは？手口の分類と実装者向けの技術的対策を解説：ディープフェイク詐欺の土台にある、人の判断を突く手口全体の分類と、認証・メール・端末の技術統制を扱っています。
• DMARCの仕組みとnone・quarantine・rejectが分けるなりすまし防御の差：BECの入口となるなりすましメールを、送信ドメイン認証をrejectまで運用して届く前に落とす実装を解説しています。
• GPT-SoVITSとは？使い方・日本語音声クローン・インストール手順を解説：音声クローン詐欺の技術的な機序を、防御側が攻撃の再現度を理解するための前提として整理しています。
• フィッシングとは？手口の種類・見分け方と企業が取るべき組織的対策を解説：ディープフェイクと組み合わさる入口のフィッシングについて、組織としての見分け方と対策を整理しています。
• 情報セキュリティ10大脅威2026とは？組織編の順位変動とIPAの読み方・企業の対策優先度：BECやなりすましが組織向け脅威のどこに位置づくかを、IPAの公表から読み解けます。