Anthropic(米国の人工知能研究・製品会社)とMozilla(オープンで安全、かつ共通の利益のためのインターネットの推進に焦点を当てたグローバルな非営利団体)との間のセキュリティ協力プロジェクトは、ソフトウェアの脆弱性を検出する人工知能の可能性を示しています。
2週間以内に、Claude AIシステムはMozilla Firefoxブラウザで22のセキュリティ脆弱性を発見し、そのうち14の脆弱性が非常に深刻なレベルと評価されました。
研究グループからの情報によると、脆弱性はAIモデルClaude Opus 4.6の使用によって発見されました。テストプロセスは、ソースコードの他の多くの部分に拡張する前に、FirefoxのJavaScriptツールから始まりました。
Mozillaは、ほとんどの脆弱性は、今年の2月にリリースされたバージョンであるFirefox 148で修正されたと述べています。残りのいくつかの脆弱性は、次のアップデートで修正される予定です。
研究グループは、Firefoxを選択しました。なぜなら、これは複雑なコード構造を持ち、厳密なセキュリティテストを受けたオープンソースプロジェクトだからです。
AIが依然としてシステム内の多くの弱点を検出できることは、この技術がサイバーセキュリティ専門家にとって効果的な支援ツールになる可能性があることを示しています。
しかし、クロードは脆弱性を悪用するコードを作成するよりも脆弱性の発見に優れていることがわかりました。研究チームは、試験的な悪用方法をテストするために約4,000米ドルのAPIクレジットを費やしましたが、2つのケースでのみ成功しました。
テスト結果は、AIがオープンソースプロジェクトのセキュリティを強化する上で重要な役割を果たす可能性があることを示しています。
それにもかかわらず、専門家は、ソフトウェア開発におけるAIの使用は、質の低いコードの多くの変更を生み出さないように慎重に管理する必要があるとも警告しています。
