チャンネルの構築、視聴数の獲得、インタラクションの獲得に関係なく
ここ数日、ソーシャルネットワークは、セクシーな女の子が「葬儀で1,000回踊った」シーンを記録した一連のクリップで話題になっている。拡散された動画では、少女が葬儀場の真ん中に現れ、攻撃的なポーズで踊ったりポーズをとったりしていた。わずか数日後、このクリップはTikTokのトレンドに一気に上り詰め、再生回数400万回を超え、少女を「無神経で故人を軽視している」として非難するコメントが何千件も集まった。
しかし、問題はこれがAIの産物だということです。現実の人間は存在しない。顔、体、背景はすべて画像合成技術を使用して作成されています。
なお、このアカウントが同様のコンテンツを投稿するのはこれが初めてではない。以前は、少女が「葬儀で皿を洗う」「棺の横で運動する」「祭壇の前で踊る」といった一連のクリップがすべてAIで作成されていた。アカウント所有者もコメントに積極的に反応し、これが現実の映像であるという確信をさらに強めた。
このアカウントはわずか 1 週間前に作成されたものですが、すでに 5,000 人以上のフォロワーがおり、継続的に 100 万回再生される動画を所有しています。コミュニティで怒りを引き起こした一連の汚いクリップは、AI によって生成されたコンテンツが、特にデリケートでイライラするコンテキストや空間を悪用した場合に、いかに洗練され、誤解を招きやすいかを示しています。
別のケースでは、TikTokアカウントが、「両手を切断」した女性が子供たちを養うためにオンライン販売で生計を立てているという動画を投稿し続けた。クリップでは、登場人物たちがシンプルな服装で震える声で登場し、ペーパータオルや洗剤などの安価な商品を紹介するために常に困難な状況について話します...その内容は思いやりを強く強調しており、多くの視聴者が感情的になり、すぐに支援に向かいます。
一連のビデオを見た女性は、夫が事故で亡くなり、子育てを一人で残されたと語った。しかし、夫を亡くした時期から生活状況、障害の理由に至るまで、ストーリーの詳細はクリップごとに常に変化します。
このアカウントは設立されたばかりにもかかわらず、急速に成長し、わずか 3 日でフォロワーが 10 万人を超え、多くの動画が 100 万回再生のマークに達しました。以下のコメントには、同情、共有、そして「状況をサポートしてください」という命令の言葉が溢れています。
その後、非常に滑らかだった女性の切断された腕から家の壁のペイントの色に至るまで、AI 画像の兆候がますます明らかになり、真実が明らかになりました...言及する価値があるのは、警告コメントはすべてこのアカウント所有者によって削除されたことです。
強力な制裁が必要、「セミを逃がすな」
サイバーセキュリティ・ハイテク犯罪予防局（ライチャウ省警察）は最近、今日最も巧妙かつ危険な手口の一つは人工知能（AI）の利用であると警告を発した。詐欺師は、健常者が障害者になる偽のビデオや画像を作成したり、悲劇的な物語をでっちあげて寄付を呼びかけます。
同機関は、ソーシャルネットワーク上で慈善活動の呼びかけを見かけた場合には、メッセージを投稿した人の出自や身元について注意深く知ることを推奨している。特に、感情的な内容には注意が必要で、寄付を呼び掛ける目的で拡散される悲しい動画や画像には注意が必要です。
Quach Thanh Luc弁護士（ハノイ弁護士協会）は次のようにコメントした: AIを使用して娯楽目的でビデオや画像を作成することは合法である。ただし、個人や団体がAIを利用して画像や動画を本人の同意なく恣意的に作成・編集・配布したり、歪曲・捏造・欺瞞等に利用した場合、その行為は法律違反となる可能性があります。重大度に応じて、違反者は行政制裁の対象となり、民事損害賠償の支払いを強制される可能性があり、重大な結果が生じた場合には、現在の規制に従ってこの行為が刑事責任で起訴される可能性があります。
警告に加えて、ソーシャルネットワークにも責任があり、フィルターを強化し、強力な対処措置を講じる必要があるとの意見も多い。
オンライン詐欺の防止と対策における国際協力に関する最近のセミナーで、公安省のファム・ザ・トゥン副大臣は、サイバー犯罪者がAIとディープフェイク（人間の顔の画像をシミュレートする技術）を最大限に活用して人々に近づき、詐欺を行っていると述べた。
ベトナムでは、インターネット ユーザーが 7,800 万人以上、ソーシャル ネットワーク ユーザーが 7,200 万人以上、モバイル接続が 1 億 7,000 万近くあり、サイバースペースはハイテク犯罪者にとって魅力的な標的となっています。 2024 年だけでも、公安省は 6,000 件を超えるオンライン詐欺事件を発見し、その被害額は推定 12 兆 VND に上ります。
ファム・ザ・トゥン副大臣は、サイバー犯罪を撃退するために、最近公安省がサイバーセキュリティ、電気通信管理、デジタル金融サービスに関連する規制を完了するよう勧告したと述べた。これにより、オンライン詐欺師が悪用する法的ギャップが狭まります。
ファム・ザ・トゥン副大臣は、「最近では、GoogleやTikTokと連携して、詐欺を防止し、これと闘うためのプロパガンダキャンペーンを展開した。サイバースペースの影響力のある人々に情報を広めるよう呼び掛けている」と語った。
