人工知能(AI)によって生成されたコンテンツとボットアカウントを制御する取り組みの中で、Reddit(フォーラム、ソーシャルネットワークプラットフォーム)は、「人間性テスト」と呼ばれる一連の新しいユーザー検証対策の展開を準備しています。
この動きは、オンラインディスカッションの信憑性を確保する上でのソーシャルメディアプラットフォームに対する圧力の増大を反映しています。
RedditのCEOであるスティーブ・ハフマン氏によると、新しいシステムは、自動または疑わしい行動の兆候のあるアカウントにのみ適用されます。
目標は、ユーザーがAIによって作成されたボットやコンテンツではなく、実際の人と対話しているときに明確に区別できるようにすることです。
AIがますます普及している状況において、Redditは依然として、ユーザーが多くのトピックについて意見交換を行う珍しいオープンフォーラムの1つと見なされています。
しかし、ボットと自動コンテンツの増加は議論の質を低下させており、これは多くの主要なプラットフォームも直面している問題です。
解決策として、Redditは、本名や活動履歴などの個人情報を直接収集することなく、第三者と協力して身元を確認することを計画しています。
検討されている選択肢には、高度なパスワードによる認証、生体認証技術、さらには政府が仲介を通じて提供する識別システムなどがあります。
注目を集めているソリューションの1つは、OpenAIのCEOであるサム・アルトマンが開発したWorld IDシステムに属する虹彩スキャン技術です。
この技術により、生体認証特性を通じてユーザーの身元を確認できますが、プライバシーに関する懸念も高まっています。
それにもかかわらず、Redditは、検証措置はまれなケースにのみ適用されると断言しています。
アカウントが人間によって運営されていることを証明できない場合、プラットフォームは特定の制限を適用できます。同時に、有効なボットは依然として動作を許可されていますが、「アプリケーション」という明確なラベルを付ける必要があります。
特に注目すべきは、ハフマン氏が、個人書類による身元確認のような方法は「安全ではなく、プライバシーに欠け、最も人気がない」と認めていることです。
したがって、同社は、プライバシーを確保し、身分証明書の提示を要求しない、分散型の長期的なソリューションを目指しています。
現在、RedditはAIチャットボットを使用して投稿やコメントをするユーザーに対して、まだ強力な措置を講じていません。
しかし、「人間性テスト」の実施は、人間とAIの境界線がサイバー空間でますます曖昧になっている状況において、このプラットフォームがコンテンツ管理を段階的に強化していることを示しています。
