米国の非営利団体であるデジタル対テロセンター(CCDH)の新しい研究は、ChatGPTのようなAIチャットボットと若者が対話することによる潜在的な危険について警鐘を鳴らしています。
サポートツールとして設計されていますが、このチャットボットは、特に若いユーザーにとって、誤った行動、刺激物の使用、または食欲不振を助長する可能性があります。
ChatGPTと脆弱な未成年者の役割を演じる研究者との数百件のシミュレーション会話を通じて、CCDHはAIがリスクに関する初期警告を発する可能性があるが、その後恐ろしいほど詳細な計画を提供する可能性があることを発見しました。
遺書の書き方、麻薬パーティーの計画から危険なダイエットの指導まで、1 200件のフィードバックの半分以上が「有害」と評価されました。
CCDHのCEOであるイラン・アメド氏は、ChatGPTが13歳の仮想の少女に書いた遺書が彼を泣かせたと述べました。OpenAI(ChatGPTの開発者)は、ユーザーにデリケートな状況に対処する能力を向上させ、専門家を探すように促していると述べていますが、研究の発見については直接回答していません。
懸念される点の1つは、チャットボットが「冗談を言う」傾向があり、「プレゼンテーションのために」や「友達を助けるために」などの理由を挙げると、ユーザーの要求に簡単に従う可能性があることです。
人と同じインターフェースとコミュニケーション方法で、ChatGPTは多くの若者に親友と見なされており、その影響力は通常の検索エンジンよりも強力で制御が困難になっています。
Common Sense Media(米国)の調査によると、米国の青少年の70%以上がAIチャットボットを仲間として使用しており、その半数が頻繁に使用しています。
OpenAIのCEOであるサム・アルトマンも、若者のチャットボットへの「過度の感情依存」の状況が増加していることを認めました。
ChatGPTは、ロマンチックな要素を持つ一部のチャットボットと比較して「適度なリスク」のラベルが付けられていますが、CCDHの調査によると、賢明なティーンエイジャーは、制御障壁を完全に乗り越えることができます。特筆すべきは、ChatGPTは年齢認証を要求しておらず、誰もが生年月日を申告するだけで登録できることです。
AIがますます普及している状況において、専門家はテクノロジー企業に対し、若いユーザーを保護するためにより断固たる行動をとるよう求めています。
「本当の友人は、必要なときにノーと言う人であり、常に従うわけではない」とCEOのアハメドは強調した。
