グーグルは、ガーディアン紙がAIによって作成された回答がユーザーに深刻な誤解を与える可能性があることを示す調査結果を発表した後、特定の医療トライアルに対するAI Overview機能をひそかに削除したとされています。
ガーディアン紙によると、ユーザーが「肝機能検査の正常範囲はどのくらいですか?」など、肝機能検査に関連する質問を検索すると、GoogleはAI作成の概要(AI Overview)を一般的な数値で表示しました。
これらの情報は、年齢、性別、人種、国籍などの重要な要素を考慮していません。これらは、医学的検査の結果に大きな影響を与える可能性のある変数です。
これは、ユーザーが自分の健康状態を誤解し、結果が正常であると安易に考えてしまう危険性を秘めていますが、実際にはそうではありません。
調査記事が公開された後、ガーディアン紙は、AIの概要結果はもはや表示されず、「肝臓血液検査の正常範囲はどのくらいですか?」または「肝機能検査の正常範囲はどのくらいですか?」などの具体的な疑問が提起されたと報じました。
ただし、同紙は、「LFT参照範囲」または「LFT検査参照範囲」など、質問の他のいくつかのバリエーションが、AIによって作成された要約を依然として有効にする可能性があることも発見しました。
ガーディアン紙が記事を掲載してから数時間後に実施された実際のテストでは、上記の問い合わせは、通常の検索結果でAIの概要を表示しなくなりました。
それにもかかわらず、Googleはユーザーが「AIモード」でこれらの質問を同じように行うことを許可しており、これは独自の機能です。
ガーディアン紙への回答で、グーグルの広報担当者は、同社は検索の特定の結果の削除についてコメントしていないと述べました。
しかし、グーグルはシステムの包括的な改善を実行するために努力していると断言しました。この広報担当者によると、内部医療専門家のグループがガーディアンが言及した問い合わせをレビューし、多くの場合、情報は歪んでおらず、高品質のウェブサイトによってサポートされていると述べました。
それにもかかわらず、撤廃の動きは依然として多くの医療機関から肯定的な評価を受けています。ブリティッシュ・ライバー・トラストの広報・政策ディレクターであるヴァネッサ・エブディッチ氏は、これは「素晴らしいニュース」であると述べましたが、同時により深い懸念を表明しました。
同氏によると、問題はいくつかの具体的な質問だけでなく、グーグルが健康分野全般におけるAIの全体的な展開方法にも当てはまります。
「Googleがシステムリスクを解決せずに、いくつかの個別の結果に対してAIの概要を単にオフにするだけなら、AIによって作成された医療情報に関する懸念は依然として残っています」と、エブディッチ氏は強調しました。
以前、グーグルは、専門のAIモデルのアップグレードを含む、ヘルスケアに関連する検索エクスペリエンスを改善するための新機能を発表しました。
