真偽の境界線が曖昧になり、ユーザーがディープフェイクの標的になる
国家サイバーセキュリティ協会が実施した2025年の個人ユーザー地域におけるサイバーセキュリティ調査研究報告書によると、約555人に1人が詐欺の被害者です。
専門家のブー・ズイ・フン氏 - フンAIクリエイティブは、ディープフェイクは人工知能時代における最も深刻な課題の1つになりつつあり、真実と偽の境界線がますます曖昧になっていると指摘しています。画像、音声からビデオまで、今日のAIツールは、非常にリアルでアクセスしやすく、肉眼で区別するのが非常に難しい偽造コンテンツを作成することを可能にします。
全国サイバーセキュリティ協会によると、2025年第1四半期だけでも、ディープフェイク詐欺による世界的な総損害は2億米ドルに達し、攻撃頻度は5分ごとに1件発生しています。
実際の記録によると、ディープフェイクによる詐欺の手口は、もはや警告レベルにとどまらず、被害者の心理を的確に捉える非常に具体的なシナリオで現れています。
ハノイの企業の会計士であるグエン・トゥ・ラムさん(32歳)は、2025年11月末に、会社のリーダーと全く同じプロフィール写真と名前のアカウントからTelegramアプリケーションを介したビデオ通話を受信したと語りました。通話中、この人物は上司に非常によく似た顔と声で現れ、外国のパートナーとの契約を処理するために3億7000万ドンを緊急に送金するように要求しました。
「彼は早口で話し、非常に焦っている様子で、他の部署を邪魔しないように私に要求しました。写真と声がそっくりだったので、何も疑いませんでした」とハさんは振り返ります。送金が終わって、社長の個人の電話番号に電話をかけ直すと、彼女は自分が騙されたことに気づいて愕然としました。
別のケースはバクニンで発生しました。ビジネスショップのオーナーであるタ・クアン・ハン氏(45歳)は、中国に留学中の息子と全く同じ声で見知らぬ番号から電話を受けたと述べました。この人物は、事故に遭い、医療費を支払うために1億5000万ドンを緊急に送金する必要があると述べました。
「声が震え、家族内での正しい呼び方だったので、少しも疑いませんでした。お金を送金してからビデオで子供に電話をかけ直すと、何も起こっていないことがわかりました」とハン氏は語りました。
AI専門家のヴー・タイン・タン氏(AIZ開発ユニットの会長)によると、画像、音声、ビデオの偽造を使用した詐欺事件は、ディープフェイクの兆候である可能性があります。この技術は、人間を高い真実性で再現し、被害者が認識しにくくします。時間の制約、知り合いや権限のある人物を装うシナリオを組み合わせると、ディープフェイクは、テクノロジーに精通している人々さえも欺くことができる、特に危険な詐欺ツールに変えるために利用されます。
これらの事件の共通点は、詐欺師がソーシャルネットワークから画像や音声データを収集し、その後、AIツールを使用して高度にパーソナライズされた詐欺のシナリオを作成することです。
ディープフェイクは、再生回数を稼ぐための動画や画像の作成、販売、有名人のなりすまし、不正な発言の編集にも利用されています。実際、ディープフェイクは現実の脅威となり、ますます巧妙なレベルで生活に浸透しています。
ディープフェイク製品の背後にあるテクノロジープラットフォームによる制御を強化
国家デジタル技術・デジタル変革研究所(科学技術省)のチャン・ヴァン・ソン副所長は、現在の生成AIシステムの大部分は、ユーザーに誤解を招くコンテンツや悪影響を与えるコンテンツを作成する可能性があるため、中程度のリスクグループに分類されると述べました。これは、ディープフェイク製品の背後にある技術基盤でもあり、高いリアリティを持つ偽の画像、音声、ビデオを作成することを可能にし、詐欺や違法行為に利用されるリスクを高めます。
AI法(2026年3月1日から施行される人工知能法)は、事故の発見、是正のための技術的措置の適用、さらには必要に応じてシステムの一時停止または回収における関係主体の責任を明確に規定しています。プロバイダーと展開ユニットも、使用目的、運用原理、およびリスク管理措置について管轄当局に説明する必要があります。
特に注目すべきは、法律がディープフェイクテクノロジーを使用して詐欺を働いたり、法律に違反したりする行為を厳しく禁止していることです。生成AIシステムは、AIによって生成または編集されたコンテンツにラベルを貼ることを義務付けられており、管理と追跡作業に役立つ識別ソリューションを適用しています。リスク管理の要件を満たしていない場合、システムは高リスクグループに分類され、より厳格な監視を受ける可能性があります。
チャン・ヴァン・ソン氏は、ディープフェイクを使用して子供を虐待したり、社会秩序を乱したりするなどの重大な違反行為に対して、関係する個人および組織は行政処分を受けるだけでなく、刑事責任を問われ、法律の規定に従って損害賠償責任を負う可能性があると強調しました。
法的観点から、XTVN有限責任法律事務所のトラン・テー・アイン副所長弁護士は、ディープフェイクに対する個別の罪状はないものの、この技術を利用した行為は現行の規定に従って処理される可能性があると述べた。
ディープフェイクを使用して財産を詐取する行為は、2015年刑法(2017年改正)第174条に基づき、詐欺による財産横領罪で処罰される可能性があり、最高刑は終身刑です。偽造コンテンツを拡散し、組織や個人に影響を与えた場合は、刑法第288条または第155条に基づいて処罰される可能性があります。
刑事責任を問われるレベルに達していない場合、違反者は政令15/2020/ND-CP(2022年改正・補足)に基づいて行政処分を受ける可能性があり、ネットワーク上で虚偽の情報を提供、共有する行為に対して1000万ドンから2000万ドンの罰金が科せられます。
弁護士は、国民はサイバー空間での異常なコンテンツ、特に緊急送金を要求する電話やビデオに対して警戒を高める必要があると勧告しています。詐欺の罠に陥らないように、複数の独立したチャネルを通じて情報を検証する必要があります。
また、ユーザーは個人の画像やビデオをソーシャルネットワークに勝手に共有すべきではありません。これは、悪意のある者が詐欺目的でディープフェイク製品を作成するための入力データになる可能性があるためです。異常な兆候を発見した場合は、処理支援を受けるために、速やかに管轄当局に報告する必要があります。
