米国務省は、米国メディアが公表した内部覚書からの情報によると、世界中の米国大使館に警告を発しました。
インシデントは、被験者が信号暗号化メッセージングアプリを使用し、偽のアドレス「marco.rubio@state.gov」でアカウントを登録するときに、6月中旬に始まり、AIによって作成されたテキストと声を送信します。
米国当局者は、メッセージは「それほど洗練されておらず、目的を達成していない」と述べた。しかし、米国大使館に送られた覚書の中で、外務省は、偽造作戦は米国務省のサイバーセキュリティシステムに直接的な損害を与えるわけではないが、騙された人々がそれが本物であると信じ、第三者と情報を共有した場合、その情報は漏洩する危険性があると警告した。
米国務省のタミー・ブルース報道官は8月7日、事件を確認し、省が問題を監視および処理していると述べました。彼女は、「私たちは情報保護の責任に真剣に取り組み、将来の事故を防ぐためにサイバーセキュリティシステムを絶えず改善しています」と強調しました。
米国当局がAI乱用行為に直面したのはこれが初めてではありません。5月、連邦捜査局(FBI)は、米国の高官を偽装するためにAIで作成された人工音声を使用している「悪意のある人物」について警告しました。警告は、ホワイトハウスのスージー・ウィレス長官の電話がハッキングされ、彼女の連絡先に一連の偽の電話とメッセージが送信された事件の後に行われました。
今回の事件は、深刻な結果を引き起こしていないものの、外交安全保障分野で人工知能技術が引き起こす可能性のある脆弱性について大きな懸念を引き起こしている。
