アンソロピック社は9月10日、監視活動に使用するために同社の人工知能(AI)モデルを使用する多くの事例を阻止したと発表し、同時に、少数派コミュニティや反体制派を監視するためにAIを利用する状況を警告したと、AFP通信が報じました。
同社のモデルの乱用状況に関する報告書によると、事件は2026年1月から7月の間に発見および無効化され、イランと西アフリカ地域を含むいくつかの地域から発生しました。
ある事件では、イランの容疑者がソーシャルメディアアカウントを通じて個人識別方法を開発しました。
別のケースでは、マリの国家安全保障機関で働く請負業者が、クロードを「情報収集活動に役立つプラットフォームソフトウェアを設計するために」使用しました。
「AIはエンジニアチームの代わりに使用されています」と報告書は述べています。
Anthropicによると、武器を設計したり、疑わしい生物学的研究を実施したり、デート詐欺のトリックを作成したりするユーザーの試みも阻止しました。