米国の有名なテクノロジー雑誌WIREDによると、セキュリティ研究者のグループが最近、人工知能(AI)がスマートホームデバイスに統合される際の潜在的なリスクについて警告するための大胆な実験を実施しました。
彼らは、スマートホームで照明を消し、電気機器を制御するために、GoogleのトップAIチャットボットであるGoogle Geminiを制御する方法を見つけました。
WIREDによると、3人の研究者は、Googleカレンダーの招待を隠された指示、電気機器のステータス変更の要件で「感染」することに成功しました。
Geminiが仕事のスケジュールを要請されたとき、これらのコマンドは誤ってアクティブ化され、点灯につながりました。これは、遠隔操作の可能性を明確に示しています。
これは、生来のAIシステムが環境や物理機器に影響を与えるために悪用される最初のタイプの攻撃と見なされています。
「Invitation is All You Need」というプロジェクトは、大規模言語モデル(LLM)がロボット、IoTデバイス、自動運転車を制御するAIアシスタントを通じて現実世界とますます結びついているという危険も指摘しています。
テルアビブ大学(イスラエル)の研究者の1人であるベン・ナシ氏は、「LLMは今後、自動運転車、人形ロボットに搭載される予定です... 効果的なセキュリティメカニズムがなければ、結果はもはやプライバシーの問題ではなく、生命の安全を脅かす可能性があります」と警告しました。
Google側は、2月からこの脆弱性について通知を受けていることを確認しました。Googleのアンディ・ウェン代表は、現在、ハッカーによって悪用された脆弱性の兆候はないと述べていますが、同社は将来の同様の攻撃を防ぐために、脆弱性の修正と防衛強化策を急ピッチで展開しています。
この事件は、AIが単なるツールではなく、特にそれが人間の現実生活にますます密接に関連している状況において、厳格に管理されなければ脅威となる可能性があることを強く示しています。
