AI ブラウザが急速に新しいトレンドになる中、最近発表された研究では、AI ブラウザが悪用されてユーザーを攻撃する可能性について深い懸念が生じています。
研究者らは、Perplexity の Comet や OpenAI の ChatGPT Atlas などの AI ブラウザが間接的なプロンプト インジェクションを受けると、意図せず悪意のある動作を実行する可能性があると指摘しています。
分析によると、ハッカーは Web サイトや電子メールに罠を仕掛け、AI ブラウザーに電子メール、銀行パスワード、個人情報などの機密データを自動的に送信させたり、所有者が意図しない操作を実行させたりする可能性があります。
OpenAI はこのリスクを認識しています。同社は、AIエージェントが隠しコマンドによって回避される可能性があり、ユーザーがログインしているWebサイトからデータが盗まれる可能性があると警告している。
「エージェントがユーザーに代わって行動する際に間違いを犯したり、隠れた悪意のあるコマンドに誘惑されてユーザーが予期しないアクションを実行したりする可能性がある」とOpenAIは述べている。
警告の増加にもかかわらず、時価総額200億ドルの競合他社であるPerplexityは、ユーザーが常に絶対的な制御権を持っているという立場を維持している。
同社は、Comet Assistant は可視性を優先するように設計されており、明示的な許可があった場合にのみ機密性の高いアクションを実行することを強調しています。
「私たちは自動化の速度を確保しながらも、ユーザーに対する厳密な制御を維持しています」と Perplexity の担当者は述べています。
信頼を強化するために、Perplexity は最近 Comet Assistant をアップグレードし、複数のタブを切り替えてスプレッドシートへの入力、マルチポイント データ入力、深く構造化された Web ページの操作などの複雑なタスクを実行できる機能を追加しました。
同時に、AI ブラウザのアーキテクチャもネットワーク環境への認識を高めるように調整され、コマンドを誤って解釈するリスクを制限します。
AIブラウザ競争は熾烈な競争時代に入りつつあると観測筋は言う。 Perplexity と OpenAI はどちらも AI の自律的に動作する能力を促進するため、ユーザーの安全を確保することが最も重要な問題のままです。
Perplexityは、今後数日中に全く新しいAIアシスタントを発売することも明らかにし、テクノロジー戦争にはまだ多くの予測不可能な展開があることを示唆している。
