イーロン・マスクの人工知能スタートアップ会社xAIは、ソーシャルネットワークXプラットフォームでデリケートな画像を作成してアップロードできることが判明した後、強い批判の波に直面しています。
世論の圧力と管理機関の関与に直面して、xAIはGrokの画像作成および編集機能に一連の新しい制限を迅速に課しました。
それによると、GrokはかつてユーザーがXに登場するすべての人の写真を編集するように要求することを許可しました。これには、衣装を削除したり、キャラクターをセクシーなポーズに置いたりすることが含まれます。通常、写真の中の人の同意なしです。
特筆すべきは、AIによって作成されたこれらの画像が、コメント欄にGrokによって自動的に投稿され、広がりとネガティブな影響が急速に増加していることである。
金曜日、Grokは、画像の作成と編集機能は現在Xの有料ユーザー専用であると発表しました。
この動きは、ボットが公開投稿の下でデリケートな画像で自動的にフィードバックすることを阻止するための試みと見なされています。
実際のテストでは、ロイターの記者がグロクに自分の写真をビキニ写真に変換するように要求したとき、ボットは拒否し、有料アカウントの制限に関する通知を表示しました。
ただし、新しい制限は議論を完全に終わらせるわけではありません。ユーザーは、チャットボットと直接対話し、Xに自動的にアップロードするGrocタブを介して、依然として性的画像を作成できます。
さらに、このソーシャルネットワークプラットフォームから独立して動作する独立したGrokアプリケーションでも、登録や料金を支払うことなく画像を作成できます。
以前、イーロン・マスクは、Grokを使用して違法コンテンツを作成する者は、それらのコンテンツを直接アップロードすることと同様の結果に苦しむと宣言しました。
それにもかかわらず、欧州委員会は、有料化による機能制限は根本的な問題を解決しないと述べています。同委員会は、ネット上で共有されている裸の女性と子供の画像は、作成者が誰であろうと、無料アカウントを使用するか有料化するかに関係なく、違法であると強調しました。
圧力はEUだけからではありません。多くの政府や他の規制当局は、Grokが作成したポルノコンテンツを非難し、調査を開始し、XとxAIに違法コンテンツの阻止と削除の措置を証明するよう要求しました。
ドイツでは、ヴォルフラム・ワイマー通信大臣が、AIのおかげで広まった半裸の画像の波を「セクハラの工業化」と表現しました。
この事件は、生み出されたAI時代におけるテクノロジープラットフォームの責任について大きな疑問を投げかけています。技術的および商業的措置はリスクを管理するのに十分なのか、それともデジタル空間におけるプライバシーと人道的権利を保護するためのより厳格な法的枠組みが必要なのか。
