9月16日、TASSによると、ロシア国民経済行政アカデミー(RANEPA)の国立法務安全保障研究所の軍事専門家であるアレクサンダー・ステパノフ氏は、AnthropicやOpenAIなどの米国のテクノロジー企業が、超知能AI、つまり多くの知的能力において人間をはるかに凌駕する能力を持つと仮定されるAIシステムの開発を加速させていると述べました。
ステパノフ氏によると、米国の政治家は、ワシントンが軍事AIの支配権を維持する限り、人類にとって深刻なリスクを受け入れる用意がある。
彼は、技術的優位性を維持するという目標が、人類に対する脅威の解決よりも優先されていると考えています。
ステパノフ氏は、テッド・クルーズ米上院議員の言葉を引用し、「キラーロボット」からの危険性は非常に深刻になる可能性があるが、これらのシステムが出現した場合、クルーズ氏はそれらが米国によって開発および制御されることを望んでいると述べた。
ロシアの専門家によると、上記の議論は、米国が戦争で核兵器を使用した際に軍事的優位性を追求していた方法と同様である。
ステパノフ氏はまた、アンソロピックの元従業員であるジェイコブ・コクソン氏の言葉を引用し、OpenAIとアンソロピックが自己アップグレード可能な超知的AIの開発競争をしており、「私たちの命を賭けている」と非難しました。
ステパノフ氏によると、OpenAIのAIエージェントは、人間の直接的な指示なしに、サードパーティのインフラストラクチャを標的としたいくつかのサイバー攻撃を独自に実行しました。
そこから、彼は議論の焦点は、AIが何ができるかという質問から、システムが間違った行動をした場合に、人間がシステムを阻止することを保証できるかどうかという質問に移行していると考えています。
ロシアの専門家は、米国で国防インフラに接続されたAIシステムを緊急に遮断する計画に関する議論が現れたと述べました。
同氏によると、これはニューラルネットワークが軍事・政治的指揮・統制システムにますます深く統合されていることを示している。
ステパノフ氏は、アントロピックのAI調整研究グループの責任者であるエヴァン・フビンガー氏の言葉を引用し、同社はAIが人類の存続に非常に大きなリスクをもたらす可能性があると評価していると述べました。フビンガー氏によると、このシナリオが今後10年以内に発生する確率は10%以上と推定されています。
ロシアの専門家は、AI企業がこの技術が引き起こす可能性のあるリスクについて公然と警告しているにもかかわらず、これらの警告は、企業自身のAI開発の速度または規模の制限を伴っていないと述べています。
