若者に対する人工知能の影響に対する懸念が高まっているため、OpenAIはChatGPTに「年齢予測」機能を統合しました。これは、未成年者を特定し、彼らの会話に合理的なコンテンツ制限を設定するのに役立つように設計されています。
近年、OpenAIは、ChatGPTが子供に及ぼす可能性のある影響について厳しく批判されてきました。一部の未成年者の自殺はこのチャットボットに関連付けられており、他のAIプロバイダーと同様に、OpenAIもChatGPTが若いユーザーとセックストピックについて議論することを許可したことで批判されています。
2025年4月、同社は18歳未満のユーザー向けにわいせつなコンテンツを作成することを許可するバグを修正することを余儀なくされました。
同社は、以前から未熟なユーザーの問題を解決するために努力しており、「年齢予測」機能は、既存の保護措置を単に追加しただけです。
この新機能は、人工知能(AI)アルゴリズムを使用して、特定の「行動シグナルとアカウントレベル」に基づいてユーザーアカウントを評価し、若いユーザーを特定することを目的としていると、OpenAIは最近のブログ投稿で述べています。
同社は、それらの「信号」には、ユーザーが申告した年齢、アカウントが存在していた期間、およびアカウントが通常稼働していた日の時間などの情報が含まれると述べています。
同社は、セックス、暴力、および18歳未満のユーザーに問題を引き起こす可能性のある他のトピックに関する議論を排除するように設計されたコンテンツフィルターをすでに備えています。18歳未満のアカウントを特定する年齢予測メカニズムの場合、それらのフィルターは自動的に適用されます。
ユーザーが適齢期に達していないと誤って特定された場合、彼らは自分の「大人」アカウントを復元できます。OpenAIによると、彼らはOpenAIの身元確認パートナーであるPersonaに自撮り写真を送信できます。
