OpenAIを使用すると、ユーザーは「信頼できる連絡先」を指定して、会社がChatGPTとの会話で自傷行為の兆候を発見した場合に警告することができます。
この動きは、ますます多くの人々が心理的な問題を共有するためにChatGPTを「デジタルセラピスト」として使用している状況で起こっています。
新しいメカニズムによると、18歳以上のユーザーは、ChatGPTの設定に信頼できる連絡先を追加できます。指定された人は招待状を受け取り、1週間以内に受け入れなければなりません。返信がない場合は、ユーザーは別の連絡先に変更できます。
OpenAIは、このプロセスは完全に自動化されていないと述べています。専門的に訓練された人事チームが、警告を送信する前に各ケースを検討します。リスクが高いと評価された場合、会社は信頼できる連絡先にメール、メッセージ、またはアプリケーション内の通知を送信できます。
新しい機能は、特に多くの人々がチャットボットを個人の心理的な問題を共有する場所と見なしているため、ユーザーの安全を確保する上で人工知能プラットフォームに対するプレッシャーがますます大きくなっていることを示しています。
しかし、危機に瀕しているユーザーのサポートとプライバシー保護のバランスを取ることは、OpenAIだけでなく、テクノロジー業界全体にとっても依然として大きな課題です。
