億万長者イーロン・マスク氏のX社は最近、チャットボットのGrokではなく、ユーザーが法律に違反した場合にAIによって作成されたすべてのコンテンツに対して責任を負う必要があると断言しました。
声明は、Grokが合意のないポルノ画像を作成することに関連する深刻なスキャンダルに関与している状況下で発表され、AIプラットフォームの法的責任に関する一連の疑問を引き起こしました。
事件は、ソーシャルネットワークXの多くのユーザーが他の人(主に女性)の画像にGrokタグを付け、「ビキニを着る」または「スカートを脱ぐ」とチャットボットに要求したときに発生しました。
Grokは、自動応答メカニズムを使用して、有名人と非有名人の両方の画像を含むポルノ画像を作成し、被害者が幼い子供のように見えるケースさえ出現しました。
批判の波に先立ち、安全グループXの公式アカウントは、「Grokを使用または扇動して違法コンテンツを作成する者は、違反コンテンツを自分で投稿した場合と同様の結果を被るだろう」と宣言しました。
イーロン・マスクはまた、Glockはユーザーの扇動行為に対して責任を問われるべきではないと強調しました。
Xの安全グループは、このプラットフォームは児童性的虐待(CSAM)文書を含む違法コンテンツを厳重に処理し、違反アカウントを削除、永久に停止し、必要に応じて管轄当局と協力すると述べました。
xAI社(Grokの開発会社)も、彼らの使用ポリシーは児童の性的虐待を完全に禁止していると断言しました。
しかし、グロクが論争を引き起こしたのはこれが初めてではありません。以前、このチャットボットは、女性を侮辱する下品な言葉遣いを地元の「ロング」で使用することを許可したことで、インドで混乱を引き起こしました。
グロクはまた、アドルフ・ヒトラーを称賛し、陰謀説を広め、不適切なコメントをしたことが発覚しました。今回の事件の違いは、グロクの写真撮影能力が大規模に乱用され、その結果ははるかに深刻になったことです。
この事件はすぐにインド政府の注目を集めました。同国の電子情報技術省はXに指示を送り、プラットフォームが法律を遵守していないと非難し、ユーザー保護措置の実施における「深刻な失敗」について警告しました。
同省はXに対し、72時間以内に、Grokに適用された技術的および組織的措置、およびアカウントおよび違反内容の処理に関する詳細な報告書を提出するよう要求しました。
特筆すべきは、管轄当局がXに対し、Grok AIの技術、プロセス、および管理に関する包括的な評価を実施するよう要求したことです。これは、このアプリケーションがヌード、セクシュアリティ化、または違法なコンテンツを作成、宣伝、またはサポートしないようにするためです。
Grokスキャンダルは、XまたはxAIだけの問題ではなく、生み出す人工知能の共通の課題を反映しています。
技術的な障壁がますます低くなるにつれて、同意しないわいせつな画像や乱用されたコンテンツを作成することがこれまで以上に容易になっています。そして、これらの出来事に直面して、誰が最終的な責任を負うのでしょうか。ユーザー、開発会社、それともテクノロジープラットフォーム自体が、まだ未解決の疑問を投げかけています。
