OpenAIは、自社のAIブラウザであるAtlas AIのサイバー攻撃に対抗する能力を強化しようと努めています。しかし、彼らはまた、命令挿入攻撃(prompt injection)、つまりAIオブジェクトを操作して悪意のある指示を実行する攻撃は、通常、ウェブサイトや電子メールに隠されているため、短時間で消える可能性のあるリスクであると認めています。これは、AIオブジェクトがオープンインターネット上で動作する場合の安全性のレベルについて疑問を投げかけています。
「マルウェアの挿入攻撃は、オンライン詐欺やソーシャル技術と同様に、完全に解決することは困難です」とOpenAIは最近のブログ投稿で書いており、同社がアトラスの防衛能力を絶え間ない攻撃に対抗するためにどのように強化しているかを詳細に述べています。同社は、ChatGPT Atlasの「ターゲットモード」が「セキュリティを脅かす表面を拡大している」ことを認めています。
OpenAIに加えて、英国国家サイバーセキュリティセンター(NCSC)は今月初め、人工知能アプリケーションを標的としたリマインダーによるコード挿入攻撃は「決して完全に減少しない可能性がある」と警告しており、ウェブサイトはデータ漏洩の犠牲者になる危険性があります。
英国政府機関は、サイバーセキュリティ専門家に対し、攻撃が「阻止される可能性がある」と考えるのではなく、リマインダーベースのコード挿入攻撃のリスクと影響を最小限に抑えるよう勧告しています。
OpenAI側は、「私たちは即時暗号化を長期的なAIセキュリティ上の課題と見なしており、それに対する防御能力を継続的に強化する必要があります」と述べています。
この不可能な任務に対する同社の解決策は何ですか?同社は、内部で新しい攻撃戦略が「実際に」利用される前に発見するのに役立つ初期の有望な兆候を示す、迅速かつ積極的な反応サイクルです。
OpenAIは、マルウェア攻撃の即時予防は非常に困難で完全に効果的であると強調していますが、彼らは大規模なテストとより速いバグ修正サイクルに基づいて、実際の攻撃でシステムのセキュリティを強化しています。
OpenAIの広報担当者は、アトラスのセキュリティアップデートがマルウェア挿入攻撃の件数が大幅に減少したかどうかを明らかにすることを拒否したが、同社はリリース前からアトラスの迅速なマルウェア挿入攻撃に対抗する能力を強化するためにサードパーティと協力してきたと述べた。
あなたは、あなたは、
