AIが偽装詐欺を検出
3月11日(現地時間)の発表によると、Metaは、詐欺師がより巧妙な手口を使用しており、有名人、ブランド、または評判の良い組織を騙してユーザーを騙すことが含まれると述べました。
これにより、同社はAIの応用を拡大し、不正行為を早期に発見して防止するために法執行機関との連携を強化する必要があります。
Metaは、新しいAIシステムは、有名人のイメージを利用した詐欺やブランド詐欺を検出するように設計されていると述べています。
システムは、テキストコンテンツ、画像、アカウントの行動、および関連する文脈など、さまざまな要素を分析します。
AIは、データ信号の集計を通じて、偽の熱狂的な表現、誤解を招く伝記情報、または公人との異常なつながりなどの疑わしい兆候を認識できます。
このテクノロジーは、詐欺的なリンクや偽のドメイン名の検出にも役立ちます。これらのウェブサイトは、ユーザーに個人情報や財務データを提供するように誘い込むために、通常、合法的なプラットフォームと同様に設計されています。
Metaによると、新しいシステムは以前よりも多くの不正行為を検出するのに役立ち、オンライン環境で偽造されるリスクから数千のブランドを保護するのに貢献しています。
アプリケーションでの安全警告の増加
Metaは、サーバー側の検出ツールとともに、自社のアプリケーションで多くの直接的な安全警告もテストしています。
Facebookでは、同社は疑わしい友達リクエストに対する警告をテストしています。招待状を送信したアカウントに異常な兆候がある場合、たとえば共通の友達が非常に少ない場合、または実際の場所とは異なる国を記録している場合、システムはユーザーが受け入れる前に検討するための通知を表示します。
一方、WhatsAppはアカウントの盗難を防ぐために警告を追加します。
現在一般的な手口の1つは、ユーザーを騙して認証コードを入力させたり、QRコードをスキャンしてアカウントを悪意のあるデバイスにリンクさせたりすることです。新しいシステムは、疑わしい要求を検出し、タイムリーに警告します。
Facebookメッセンジャーでは、MetaはAIによる詐欺検出機能をより多くの国に拡大しています。
このツールは、疑わしい求人広告や偽の投資提案などの一般的な詐欺パターンをタグ付けし、ユーザーがアカウントをブロックまたは報告する前にAIが分析するための最新の会話を送信できるようにします。
広告と法執行協力の強化
詐欺の発見に加えて、Metaは広告主の検証プロセスも拡大しています。同社は、2026年末までに、検証済みの広告主が広告収入の約90%を占めることを目標としており、現在の70%から増加しています。
Metaは、法執行機関との協力は、詐欺対策戦略において依然として重要な部分であると強調しています。
2025年には、同社はプラットフォームから1億5900万件以上の詐欺広告を削除し、そのうち92%はユーザーが報告する前に発見されました。
Metaはまた、詐欺センターに関連するFacebookとInstagramの1090万のアカウントを削除しました。
