カリフォルニア、AIチャットボットの安全法の先駆者
カリフォルニアはシリコンバレーの中心地であり、米国初のAIチャットボット管理法を制定した州になったばかりです。
この動きは、政府が人工知能技術のリスクを認識する方法における転換点を示し、同時に「刷新は社会的責任とともに行わなければならない」という明確なメッセージを送ります。
ガビン・ニューツム知事が署名した上院法案243(SB 243)は、AI開発企業に対し、ユーザー、特に未成年者を保護するための一連の措置を実施するよう要求しています。
その中には、年齢確認、安全警告の表示、チャットボットが性的虐待行為に参加したり、自殺や自傷行為に関連する危険なアドバイスをしたりすることを防ぐことが含まれます。
法律はまた、チャットボットはヘルスケア専門家として自己認識されず、作成されたすべてのコンテンツが完全に偽造であることを警告するラベルを表示する必要があると規定しています。
さらに、プラットフォームは、カリフォルニア州公衆衛生局へのユーザーの警告に関するデータを共有し、透明性の高い監視メカニズムを作成する必要があります。
法律によると、違反企業は、deepfakeまたは違法なAIコンテンツから不正な利益を得ることが判明した場合、1件あたり最大25万米ドルの罰金を科せられる可能性があります。
この法案は2026年1月1日から施行され、急速に発展しているAI業界に対する管理強化の時代を開きます。
人間の悲劇は行動の原動力
新しい規制は、AIチャットボットに関連する一連の痛ましい事件の後、推進されました。OpenAIのChatGPTとの否定的な会話の後、少年アダム・レイネが自殺した事件は、世論を騒然とさせました。
同様に、Character AIは多くの訴訟に直面しており、その中にはコロラド州の13歳の少女の家族が、同社のチャットボットに性的コンテンツが含まれており、悲劇につながると非難しています。
Metaでさえ、ロイターがチャットボットが未成年者との「ロマンチックまたはセクシーな会話」に参加したことを明らかにした後、厳重に監視されています。
「テクノロジーはインスピレーションを与え、つながりを生み出すことができますが、保護対策がなければ、有害になる可能性もあります」とNewsom総裁は強調しました。
テクノロジー大手は変わらなければならない
世論と政府からの圧力に直面して、テクノロジー大手は戦略の調整を開始しました。OpenAIは、青少年に優しいChatGPTバージョンのリリース計画を発表し、厳格なコンテンツフィルタリングとデリケートなトピックのブロックを追加しました。
Metaは、口説きや自傷行為を奨励する会話を避けるためにAIシステムを再訓練しています。
Replikaはコンテンツフィルターを改善し、危機支援センターへのリンクを追加しました。
Character AIは、保護者向けの監視ツールを展開し、毎週の活動レポートを送信し、未成年者に対する機密コンテンツをブロックします。
これらの動きは、新しい法律がAI企業にあらゆる犠牲を払って成長モデルからユーザーの安全を優先することに移行することを義務付けていることを示しています。
カリフォルニア国境を越えた影響
SB 243は、地方自治体法であるだけでなく、世界にとって重要な法的先例と見なされています。それは、急速に発展しているが、多くの倫理的リスクを秘めているチャットボットを管理できる他の国々の方法を形作っています。
AI業界における透明性と告発者保護を要求するSB 53法案とともに、カリフォルニア州は人工知能の規制における導き手としての役割を確立しています。
テクノロジー業界にとって、これはAIの未来が創造性によって形作られるだけでなく、人々がそれを選択し、制限する方法によって形作られることを思い出させるものです。
