カリフォルニア州知事のギャビン・ニューサム氏は、州レベルで人工知能(AI)を制御するためのこれまでで最も強力な措置と評価される行政命令に署名しました。
大統領令は、州政府と契約したいすべてのテクノロジー企業が、透明性と安全性に関する厳格な基準を満たすことを義務付けています。
これは、急速に発展しているが多くのリスクを秘めた分野であるAIの法的枠組みを構築する上で、カリフォルニアを先駆的な地域にするための取り組みの一環と見なされています。
注目すべき点の1つは、AI請負業者の経歴と運営ポリシーのチェックに関する規制です。
企業は、システムがデータを処理する方法、特に児童虐待文書などの危険なコンテンツの乱用行為を防止する方法を公表する必要があります。
さらに、カリフォルニア州は、チャットボットや言語モデルを含むAI技術が、人々を監視したり、発言を検閲したりするために使用されているかどうかを注意深く評価します。
企業は、自社のシステムが偏見を最小限に抑え、運用プロセスにおける公平性を確保していることを証明する必要があります。
カリフォルニア州令はまた、連邦政府がリスク警告を発した場合でも、請負業者に対する独立した評価の権利を強調しています。
これは、ペンタゴンとAIアントロピック社との間の紛争の状況において特に注目に値します。
これに先立ち、国防総省は、同社が大規模な国内監視と自動兵器に自社の技術を使用することを許可することを拒否した後、アンソロピックとの契約を解除しました。
しかし、新しい大統領令によると、カリフォルニアは自己評価を行うことができ、同様のリスクが検出されない場合は協力を許可する。
この動きは、州政府と連邦政府の間で、特に軍事および監視アプリケーションに関連して、AIへのアプローチにおいてますます明確になっている違いを示しています。
もう1つの新しい点は、AIによって作成または編集されたコンテンツ、特にビデオに対して、識別マーク(ウォーターマーク)を貼る必要があることです。
目標は、誤った情報の拡散を制限し、人々が実際のコンテンツと機械によって作成されたコンテンツを簡単に区別できるようにすることです。
専門家は、ディープフェイク技術がますます洗練され、サイバー空間での情報検証が困難になっている状況において、これは必要なステップであると評価しています。
