若者の精神的健康への人工知能の影響に対する懸念が高まっている状況下で、OpenAIは、今年末に展開予定の青少年に優しいChatGPTバージョンをリリースする計画を発表しました。
OpenAIによると、システムは、ユーザーの年齢を正確に特定できない場合、18歳未満のユーザー専用のエクスペリエンスに自動的に切り替えます。このバージョンは、若者がAIチャットボットにアクセスするリスクを防ぐために、多くの保護層で設計されています。
CEOのサム・アルトマン氏は、「私たちは青少年のプライバシーと自由のより安全を優先しています。これは新しい強力なテクノロジーであり、青少年は大幅に保護される必要があります」と断言しました。
アルトマン氏はまた、同社が保護メカニズムを完成させるために、専門家、運動グループ、政策立案者と協力していると述べました。
この動きは、米国での訴訟の後、家族がChatGPTの制御の欠如がティーンエイジャーの息子の痛ましい死につながったと非難したことを受けて起こりました。この事件は、若いユーザーを保護するAI企業の責任に関する世界的な議論の波を引き起こしました。
青少年向けのChatGPTバージョンは、厳格なコンテンツフィルターを適用し、誘惑、自傷行為、またはデリケートなトピックに関する議論をブロックします。スリラーの文脈でさえ、危機対応システムは保護者に警告し、自殺の危険性を発見した場合は管轄当局に連絡することもできます。
さらに、保護者は、13歳未満の子供へのアカウントリンク、使用時間制限の設定、チャットGPTのチャットメモリの管理、およびチャットGPTの応答方法に関する規則など、管理ツールキットにアクセスする権利があります。これらのツールは、長距離チャットセッションでのリマインダーや休憩などの既存の機能を補完します。
アルトマン氏は、OpenAIの目標は、プライバシー、自由、安全のバランスを見つけることです。大人はより少ない制限を受けますが、子供はより高い保護レベルを必要とします。
同時に、同社は、深刻な乱用行為を防ぐために必要な場合を除き、ユーザーデータを保護するために高度なセキュリティ対策をさらに展開することを約束します。
青少年向けのChatGPTバージョンのリリースは、OpenAIが若い世代のためにより安全なAI環境を構築する取り組みを反映した重要なステップと見なされています。
