テクノロジー企業が互いに競争してAIブラウザーオブジェクトを製品に導入している状況において、新しいセキュリティリスクに関する警告はますます懸念されるようになっています。
ハッカーがウェブサイトに有害な警告を隠し、AIが不正行為を行うのを制御する間接リマインダー攻撃は、急速に浮上する脅威と評価されています。その現実に先立ち、GoogleはChromeユーザーを保護するための新たな措置を発表しました。
最近、GoogleはChromeを特別なセキュリティクラスでアップグレードしていると発表しました。その中で注目すべきは、User Alignment Criticという名前の独立した大規模な言語モデルです。
このモデルは、信頼できないウェブコンテンツから完全に分離して動作し、AIブラウザオブジェクトが提案するすべての行動をテストする任務を負っています。
異常な兆候が検出された場合、モデルは直ちに拒否し、調整を要求します。これは、AIが巧妙な挿入命令によって欺かれるリスクに対抗するための最初の盾と見なされています。
この動きは、Googleが米国のユーザー向けブラウザにチャットボットGeminiを導入した後、ChromeがAIをサポートする機能の統合をテストしているときに起こりました。
AI監視クラスに加えて、Googleは起源隔離(origin isolation)機能も展開しており、AIオブジェクトの相互作用範囲を、タスクに直接関連するページまたは許可されたユーザーリストにのみ制限します。
Googleは、新しい防御層は多層戦略に従っており、敏感な操作におけるユーザーの手動認証の要求、リアルタイムの脅威検出システム、およびブラウザの耐性を継続的にテストするためのシミュレーション攻撃インフラストラクチャが含まれると述べています。
さらに、Chromeは、間接攻撃のリスクを検出するために、開いているすべてのウェブサイトをスキャンするためのリマインダー分類を実行します。
これらのアップデートは、間接命令妨害攻撃の危険性を示す最近の研究に基づいています。
以前、Braveのセキュリティ専門家は、PerplexityのCometオブジェクトの脆弱性を発見しました。これにより、ハッカーはAIブラウザの権限を取得し、電子メールや銀行情報などの機密データにアクセスできます。
グーグルの新しいAIオブジェクト開発プラットフォームであるAntigravityでさえ、この種の攻撃に対して脆弱性が検出されたことがある。
Googleによると、Chromeの新しい防御層は、ユーザーアライメントクリミア、制限されたソース集、およびユーザー監視および制御システムの3つの主要なコンポーネントで構成されています。
これら3つのメカニズムは、命令隠しマルウェアを含むフレームまたはウェブサイトを介してAIオブジェクトが制御される可能性を最小限に抑え、違法な取引やデータ盗難を引き起こすことを目的としています。
AIエコシステムのセキュリティ強化に参加するコミュニティを奨励するために、GoogleはChromeの新しいセキュリティクラスに関連する脆弱性の発見に対して最大20 000米ドルの賞金も発表しました。
このテクノロジー大手は、潜在的なリスクが全く新しい世代のサイバー攻撃を引き起こす可能性があるため、AIシグナルモデルのセキュリティが最優先事項であると断言しています。
