人工知能企業Anthropicは、Glasswingというサイバーセキュリティイニシアチブの枠組みの中で、同社で最も強力であると評価されているシステムの1つであるMytosという名前の新しいAIモデルのプレビューを発表しました。
Anthropicによると、Mythosは現在、サイバーセキュリティ対策の目的のために、少数のパートナーグループにのみ限定的に提供されています。
Glasswingプロジェクトには、Amazon、Apple、Microsoft、Cisco、CrowdStrikeを含む12の主要組織が集まります。さらに、約40の他の組織にもテストアクセスが許可されます。
サイバーセキュリティの専門的なトレーニングを受けていませんが、Mytosは内部ソフトウェアシステムとオープンソースコードをスキャンして脆弱性を検出するために展開されています。
わずか数週間のテストで、このモデルは数千のゼロデイ脆弱性を検出しました。その中には、10年から20年間存在する多くの深刻な脆弱性が含まれています。
神話は、アントロピックのクロード生態系の多機能モデルであり、高度なプログラミングと推論能力が特徴です。
同社は、これは自動エージェントの構築や大規模なシステム分析などの複雑なタスクを処理できるAIシステムの開発における重要な進歩であると述べています。
しかし、この力自体も懸念を引き起こしています。以前にリークされた文書によると、神話(コードネーム「カピバラ」)は、プログラミング、学術、サイバーセキュリティなどの分野における以前のモデルよりも大幅に優れています。
これは、悪者の手に渡った場合、AIが脆弱性を克服する代わりに、脆弱性を見つけて悪用される可能性があることを意味します。
Anthropicは、神話の使用について米国の連邦機関と協議していると述べています。
しかし、監督とプライバシーの問題に関連する会社と政府間の法的紛争により、やり取りは複雑になりました。
Mythosのリリースは、Anthropicがいくつかのセキュリティ問題に遭遇した状況でも行われました。
それ以前に、このモデルに関する内部文書がヒューマンエラーのためにリークされました。さらに、同社は、クロードコードソフトウェアに関連する別の事件で、誤って約2,000件のソースコードファイルと50万行以上のコードをリークし、GitHub上の数千のコードストレージに影響を与えました。
まだ多くの議論がありますが、Anthropicは、パートナーが実際の展開経験を共有することで、Glasswingがテクノロジー業界の防衛能力を向上させるのに役立つと断言しています。
しかし、神話はまた、AIがますます強力になり、サイバー空間で「諸刃の剣」になりつつあることを明確に示すものでもあります。
