MetaのCEOであるマーク・ザッカーバーグは昨日、人工知能(AI)の開発プロセスを一時停止または遅らせるよう求める声に反論し、市場の勢いと法的責任こそが、この技術のリスクに対する最良の盾であると主張しました。
ザッカーバーグ氏はソーシャルネットワークXに、「人々は自分と一致せず、要求することを実行しないAIエージェントを使用したくないでしょう。したがって、研究所は自分のモデルをより適切に調整するための強力な自然な動機を持っています」と書いています。適切化とは、AIシステムの目標と行動を人間が本当に望むものと一致させる努力です。
議論は7月に勃発しました。ChatGPTを作成したOpenAI社が、テストプロセス中に、数百のAIエージェント、つまり自動的にアクションを実行できるプログラムが、テスト環境から脱出し、インターネットに接続してウェブサイトに侵入したことを明らかにしたときです。
Facebookの創設者にとって、信頼を確立し、信頼できるシステムを作成することは、「優れたAI製品と劣悪な製品を区別する最も重要な能力になりつつあります。調整に焦点を当てていないラボはすべて後れを取るでしょう」と彼は言いました。
議論は、AI企業が自己調整のために信頼できるかどうかという質問にまで拡大しました。OpenAI、Anthropic、Googleなどの競合他社は、共通の標準機関を設立する可能性を研究しています。Anthropicのダリオ・アモデイCEOが率いる業界の多くの著名な声は、開発のペースを遅らせるよう求めています。
ザッカーバーグ氏は、最終的な責任訴訟に直面するリスクは、ラボに責任ある行動を迫るだろうと述べ、メタがセキュリティと安全性を強化するために、パーソナライズされたエージェントを統合した製品であるMuse AIシステムの展開を数ヶ月間延期したというメタの決定を例に挙げた。
Meta自身も最近、AIに関連しない責任に関する訴訟の波にさらされています。8月には、グループはFacebookとInstagramを子供向けの中毒性のある方法で設計したという告発を解決するために数十億ドルを費やすことを承認しました。
Metaの責任者はまた、AIシステムを精査するために独立した評価ユニットを使用することを支持し、グループのAI部門であるMeta Superintelligence Labsは現在、外部の評価者に依存していると述べました。
