米国に拠点を置くAI安全研究所である未来生命研究所の最近発表された報告書は、世界トップ9のAI企業の安全性をランク付けしました。
このレポートを作成するために、7人の研究者と経営専門家が、公開データと企業が提供する情報に基づいてランキングを特定しました。グループは、リスク評価、現在の害、安全フレームワーク、サバイバルセーフティ、ガバナンスと説明責任、情報共有の6つの異なるカテゴリでの取り組みを評価しました。
どのAI企業もどの部門でも「A」のスコアを獲得していませんが、米国の人工知能企業であるAnthropicは、全体的に「C+」で最高のスコアを獲得しました。Metaは2ランクアップして4位になりましたが、xAIは3ランクダウンして7位になり、中国のDeepSeekとフランスのMistralのすぐ前です。
ミストラルは最初にリストに追加されましたが、AFPが最終位置について尋ねたところ、同社は、報告書の枠組みは同社のAIモデル開発方法と一致しないと述べました。フランスの同社は、ユーザーが製品をダウンロードして編集できるオープンモデルを開発しています。
Anthropic、OpenAI、Google DeepMindなど、閉鎖AIモデルを開発しているMistralの多くの競合他社もリストに含まれています。
「彼らが最下位にランクインしているのを見て非常に失望しています。特にヨーロッパが実際にAIセキュリティでリードしているからです」と、MIT教授であり、生命の未来研究所の会長であるマックス・テグマークはAFPに語りました。「私たちは何度も連絡を取りましたが」しかし、ミストラルは組織の調査に回答しませんでした、と彼は付け加えました。アリババ、xAI、ディープシークも調査に回答しませんでした。
レポートに含まれている3つの中国のAI開発者もオープンモデルを製造しており、ランキングの下半分にランクインしています。DeepSeek(5位)、Alibaba Cloud(6位)、Z.ai(8位)です。
未来生命研究所の報告書は、以前は軍事における自社の技術の使用を禁止していた一部の企業が、アントロピックを含む「徐々に見解を変えつつある」と指摘しています。
報告書によると、9社すべてが、「汎用人工知能」またはAGIと呼ばれる人間レベルの知能に到達するモデルを追求するなど、「既存の」脅威に対抗することに失敗しました。「建設的な努力」がありましたが、広範囲にわたる努力はすべて「完全に不十分」でした。
その他のリスクには、モデルを乱用してサイバー攻撃を実行したり、人間に害を及ぼす可能性のあるタスクを実行したりする可能性が含まれます。
Anthropicは最近、Mytos社の最強AIモデルをリリースして注目を集めました。4月初旬、米国サンフランシスコに本社を置く同社は、悪意のある対象に対するサイバーセキュリティの脆弱性を検出する能力により、少数の信頼できる組織向けにMytosをリリースしました。
