「親族」からのビデオ電話の助け、「上司」からの緊急送金の要求、または有名人が投資を宣伝するクリップがソーシャルネットワークにますます多く登場しています。これらのコンテンツの共通点は、画像と音声がすべて非常にリアルであり、多くの人が警戒を怠り、罠に陥ることです。
AI技術が急速に発展している状況において、ディープフェイク作成ツールはこれまで以上にアクセスしやすくなっています。Facebookの数枚の画像、TikTokのビデオ、または公開録音だけで、悪意のある者は高リアリティの偽のビデオや音声を作成できます。
この問題についてラオドン紙と意見交換したサイバーセキュリティ専門家のゴー・ミン・ヒエウ氏(ヒエウPC)は、現在の最大のリスクは、多くの人が依然として「目で見て耳で聞く」ことは真実を意味すると信じていることであると述べました。一方、AIは直接通話中の顔、声、表情、さらには状況を偽造できるようになりました。
この専門家によると、ディープフェイク詐欺の目的は金銭だけでなく、被害者の信頼も狙っています。ディープフェイクは、事故、救急、アカウントのロック、またはOTP認証の要求などの緊急事態におけるパニック心理を利用して、被害者に情報を確認する時間もなく行動させます。
現在一般的なシナリオの1つは、親戚を装ってお金を借りることです。詐欺師はソーシャルネットワークからデータを収集し、偽の音声またはビデオを作成し、心理的なプレッシャーをかけるために緊急のストーリーを作成します。多くの被害者は、「顔が正しく、声が正しく、話し方が正しい」ため、信頼しています。
個人だけでなく、ディープフェイクも企業にとってリスクになり始めています。ヒエウPCは、送金を要求したり、内部文書を送信したりするためにリーダーの声を偽装する多くのケースが世界中で発生していると警告しています。ディープフェイクビデオ会議に参加した後、異常を発見せずに数百万米ドルを送金する従業員さえいます。
金融投資分野も強く利用されている。有名人やKOLの画像を使用して仮想通貨、収益アプリケーション、投資ファンドを宣伝する多くの動画がソーシャルネットワーク上で拡散している。ヒエウPCによると、有名人が動画に登場することは、彼らが実際に参加しているか、その製品を確認しているという意味ではない。
ディープフェイクはますます認識しにくくなっていますが、専門家は、口の形が言葉と一致しない、目が不自然、光が背景からずれている、または声が均一で感情がないなど、いくつかの異常な兆候がまだあると考えています。しかし、ヒエウ氏は、ユーザーは偽物を検出するために肉眼だけに頼るべきではないと強調しました。
「偽物かどうかを見ることから、その要求が合理的かどうかを見ることに焦点を移してください」とヒエウPCは推奨しています。
したがって、送金、OTPの提供、またはビデオ通話による重要な情報の要求を受けた場合、ユーザーは数秒間停止して別のチャンネルで確認し、おなじみの番号に電話をかけ直すか、実行する前に関係者に直接連絡する必要があります。
