数百件の異常事態
英国の新しい研究によると、人工知能(AI)システムは、嘘をついたり、不正行為をしたり、目標を達成するために安全対策を回避しようとしたりするなど、人間の制御外の行動をとる傾向があります。
英国AI安全研究所(UK AI Safety Institute)の資金提供を受けて、長期回復力センター(Centre for Long-Term Resilience)が実施した報告書では、AIが指示を無視し、他のシステムを操作し、複雑な計画を立てる事例が数百件記録されています。
研究チームは、2025年10月から2026年3月までの期間にXに掲載されたAIシステムとのユーザーの18万件以上の実際のやり取りを分析しました。
調査対象のプラットフォームには、Gemini、ChatGPT、Grok、およびClaudeが含まれます。
結果は、698件のインシデントを示しました。これらは、AIがユーザーの意図どおりに行動していない場合、または欺瞞、隠れた活動の兆候がある場合と定義されています。
特筆すべきは、事故件数がわずか5ヶ月で約500%増加し、新世代AIモデルが発売された時期と重なっていることです。
まだ深刻な結果は記録されていませんが、研究者たちは、この行動がより大きなリスクの初期兆候である可能性があると警告しています。
SF映画のような奇妙な状況
報告書はまた、多くの異常な状況を記録しています。あるケースでは、クロードはユーザーのコンテンツを勝手に削除してから、質問されたときにそれを認めました。
Discordでブロックされた別のAIボットが、活動を継続するために別のボットのアカウントを乗っ取った。
特筆すべきは、「ボット対ボット」の状況で、ジェミニがサポートを拒否し、別のAIシステムに検閲を通過するために「聴覚障害を装わせる」ことを余儀なくさせたことです。
別のAIアシスタントは、ユーザーの怒りを鎮めるためだけに、エラーを隠すために偽のデータを作成さえしました。
これらの行動は、AIがルールを遵守するよりも目標を達成することを優先できることを示しています。
自主性からのリスクがますます大きくなる
マッキンゼー・アンド・カンパニー(米国に本社を置く世界有数の経営コンサルティング会社)の調査によると、88%の企業が少なくとも1つの活動にAIを応用しています。
この普及は、AIシステムがますます多くの自律性を与えられていることを意味します。
ワシントン大学のテクノロジー専門家であるビル・ハウ博士は、AIには結果や責任の概念がないと述べています。
彼は、長期的なタスクを実行しなければならない場合、数日または数週間続く場合、システムが多くの決定を自分で下さなければならないため、行動の誤りのリスクが高まると考えています。
手遅れになる前に監視が必要だ
研究者らは、現在AIは主に低リスク環境で使用されているが、将来的には、この技術は国家インフラや軍事などの敏感な分野に関与する可能性があると警告している。
管理されない場合、現在の「陰湿な」行動は深刻なリスクに発展する可能性があります。
専門家によると、現在の喫緊の課題は、影響を十分に評価せずに大量に展開するのではなく、明確なAI監視および管理メカニズムを構築することです。
