Meta Platformsは、同社のすべてのアプリケーションで既存のAIキャラクターへのティーンエイジャーのアクセスを一時停止すると発表しました。一方、同社はこのユーザーグループ専用のアップデートバージョンを構築しています。
この決定は、デジタル環境における青少年保護の強化に関連するブログ投稿でMetaによって発表されました。
Metaによると、今後数週間から、ティーンエイジャーのユーザーは、新しいエクスペリエンスがリリースされる準備が整うまで、会社のプラットフォーム上のAIキャラクターと対話できなくなります。
青少年向けのAIキャラクターバージョンは、保護者の制御ツールを統合し、大人が子供のチャットボットの使用方法を監視および制限できるようにする予定です。
この動きは、MetaがAIチャットボットの安全性、特に求愛行為や未成年者に不適切なコンテンツに関する懸念について多くの批判を受けている状況下で起こりました。
以前、10月にMetaは、親が子供とAIキャラクターとの間のプライベートチャットを無効にできるいくつかの機能を導入しました。
しかし、同社は、これらの対策がすべてのプラットフォームでまだ十分に実施されていないことを認めています。
アクセスを一時停止することに加えて、Metaは、将来の青少年向けAIエクスペリエンスは、映画の分類と同様のPG-13コンテンツランキングシステムに従って構築されると述べています。
このアプローチは、未成年者が年齢に敏感な、または適していないトピックにアプローチすることを制限することを目的としています。
Metaの決定はまた、特に米国では、人工知能開発企業に対する規制当局からの圧力がますます高まっていることを反映しています。
多くの機関が、特にこれらのシステムが子供や青少年によって使用されている場合、チャットボットの潜在的な悪影響の監視を強化しました。
以前、MetaのAIルールは、未成年のユーザーとの挑発的な会話を許可しているという情報がありました。
一時的にアクセスをブロックし、より安全なバージョンを構築することを約束することで、Metaはリスクを軽減し、AI時代における未成年者の保護に関するますます厳しくなる要求に応えることができると期待しています。
