この動きにより、両者間の2億米ドル相当の契約がキャンセルされる可能性があります。
アンソロピックが、自社の技術が自動兵器の制御や米国領土での監視の展開に使用されるのを妨げる技術的障壁の撤廃を拒否した後、論争が勃発しました。
ペンタゴンのスポークスマンであるショーン・パーネルは、ソーシャルネットワークXで、戦争省は多くのアメリカ国民を監視するためにAIを使用するつもりはなく、人間が完全に制御しない自動兵器を開発することも望んでいないと書いています。
同氏は、ペンタゴンがアンソロピックのAIモデルをすべての合法的な目的で使用することを要求し、企業が決定を下すための期限を設定したと述べました。同意しない場合、ペンタゴンは協力を終了し、アンソロピックを「サプライチェーンリスク」と見なします。
2月26日の声明で、AnthropicのCEOであるダリオ・アモデイ氏は、同社は大規模な国内監視または完全自動兵器運用に自社のモデルを使用することに反対していると断言しました。彼は、現在の高度なAIシステムは、生死をかけた任務には十分に信頼性がないと述べました。
同社に近い情報筋によると、Anthropicはペンタゴンがこれらの方向にAIを展開する計画があると非難しているのではなく、技術の安全性に関する評価のみを提供しています。
情報筋によると、AIは新しい状況で予測不可能な行動をとる可能性があり、誤射、任務の失敗、または意図しないエスカレーションのリスクにつながる可能性があります。大規模な監視にAIを使用することは、現行法がAIがビッグデータから引き出す推論を明確に制限していないため、懸念を引き起こしています。
アモデイ氏は、契約がキャンセルされた場合、アントロピックは他のサプライヤーへの移行プロセスを支援すると述べました。しかし、彼は、国防総省からの圧力、つまり会社をシステムから排除する脅迫や国防生産法を引用することは、同社の立場を変えるものではないと強調しました。
エミール・マイケル国防次官はXで反論し、アモデイ氏を批判し、国防総省は常に法律を遵守しており、営利のテクノロジー企業が国防政策を支配することを許さないと断言しました。
GoogleとAmazonが後援するAnthropicは、現在、米国陸軍司令部と最大2億米ドルの契約を結んでいます。同社は、対話を継続し、活動が中断されないようにする用意があると述べています。
GoogleとOpenAIの200人以上の従業員が、アンソロピックの立場を支持する公開書簡に署名しました。GoogleとOpenAIはすぐにコメントを発表していません。
アンソロピックは、サンフランシスコに本社を置く人工知能企業であり、ダリオ・アモデイを含む元OpenAIリーダーによって2021年に設立されました。同社はクロードのようなAIモデルを開発し、グーグルとアマゾンから多額の投資を受けています。
