ソーシャル ネットワークの爆発的な成長と人工知能 (AI) の急速な進歩は、多くの利便性をもたらしましたが、同時に、ますます巧妙化するテクノロジー悪用の条件も生み出しています。
最も懸念されるのは、AIやディープフェイクの技術が有名人になりすまして営利を図ったり、詐欺をしたり、虚偽の情報を広めたりするために利用されていることだ。
この問題は、最近多くのベトナム人アーティストにとって強迫観念となっている。
自分たちのイメージが悪用されたとして、一連のベトナム人アーティストが声を上げている。つい最近、ゴー・タン・ヴァンさんは、AIが彼女の声を真似て、彼女が豪華な別荘を所有していたり、偽の商品の宣伝に参加していたという話を捏造したため、緊急通知を投稿しなければならなかった。
「ソーシャルネットワーク上の多くの広告ページや一部のコンテンツでは、私の画像、名前、さらにはAIを使用して私の声を偽り、虚偽の話を添付しているのを目にします。私が豪華な別荘や裕福な財産を所有しているという捏造から、私が使用したこともコラボレーションしたこともない製品を私に割り当てていることまで。」
この虚偽の情報は個人の名誉に影響を与えるだけでなく、視聴者に誤解を与え、信頼を失い、さらには私が絶対に宣伝したり推奨したりしない商品を誤って購入する原因にもなります。これは本当に悲しいことです。」
ゴ・タン・ヴァン氏は、他の人が誤解されたり、だまされて低品質の製品を購入したりすることを避けるために、偽のコンテンツを報告するよう視聴者に呼び掛けました。
ゴ・タン・ヴァンさんだけでなく、ミー・タムさんもディープフェイク（AIを使って顔や声を偽装する技術）の被害者だ。 11月9日の夜、マネジメント会社は女性歌手が公式ルート以外の商品を代表していないことを確認する必要があった。
マイタムの代表者は「アーティストの画像や音声を違法な商業目的で使用することは法律違反だ。対応するためにプラットフォームや当局と連携している」と強調した。
BTVホアイアインも偽のFacebookアカウントを作成させ、彼女になりすまして株式投資を呼びかけた。女優のハン・トゥイさんは、同僚からお金を借りるために自分になりすましたため、当局に通報しなければならなかった。
一方、ホア・ミンジは何度もなりすまし被害に遭った。 11月初旬、女性歌手は自身の画像を利用して虚偽の広告を掲載するウェブサイトについて警告を続けた。これに先立ち、4月にはハロンである人物がマネージャーになりすまして偽の出演契約に署名した。
ラム・チュオン、トラン・タイン、ファン・マン・クイン、カーク・ベトなど、他の多くのアーティストも詐欺ビデオを作成するために画像や音声を撮影されており、この問題が広範囲に及んでいることがわかります。
統計によると、2024 年にベトナムにおけるオンライン詐欺による損失は約 18 兆 9,000 億 VND に達すると予想されています。海外の報告書によると、ディープフェイクは全詐欺事件の約 6.5% を占め、この割合は 3 年間で 2137% 増加したという驚くべき数字です。
当局は、サイバー犯罪者がディープフェイクやディープボイス技術を利用して、ますます本物らしく、肉眼での検証が困難な偽動画を作成するケースが増えていると警告している。
AI がわずか数秒で「アイデンティティを盗む」ことができる状況では、ユーザーは特に警戒する必要があります。アーティストの公式チャンネルからの情報のみを信頼し、送金や商品の購入前に投稿元を注意深く確認し、疑わしいコンテンツはすぐに報告して拡散を制限する必要があります。
