「危険の瞬間」：Anthropic CEOがAIによるソフトウェアの欠陥発見に伴うサイバーリスクの窓を警告

要約すると

• アンソロピックは、そのAIが数万のソフトウェアの脆弱性を発見したと述べている。
• CEOのダリオ・アモデイは、それらを修正するための6〜12か月の猶予期間があると警告した。
• 批評家は、セキュリティの懸念が高まる中でリスクが過大評価されている可能性があると指摘している。

火曜日に行われたアンソロピックのCEOダリオ・アモデイとJPモルガン・チェースのCEOジェイミー・ダイモンとの議論は、人工知能が組織が修正できるよりも早く脆弱性を特定することで、サイバーセキュリティの脅威が増大していることに焦点を当てた。 アンソロピックの金融サービスへの進出に関連したほぼ2時間のイベントで、ピッチブック、収益レビュー、コンプライアンス作業などのタスクにAIエージェントを導入しながら、アモデイは、同社のミュトスモデルによって発見された数万の欠陥に対処するための6〜12か月の猶予期間がある可能性を述べた。これらの能力は、より広く利用可能になる前に対処される必要がある。 「危険は、脆弱性の増加、侵害の増加、学校や病院、銀行などに対するランサムウェアによる経済的損害の大幅な増加にある」とアモデイは述べた。

アモデイの最新の発言は、Mozillaとの以前のテストに続くもので、初期のミュトスバージョンがFirefoxブラウザの271の脆弱性を一度に特定したことを示し、AIが人間の研究者よりもはるかに高速で大規模なコードベースをスキャンできることを示した。 アンソロピックは、このモデルが広く使われているソフトウェアの未知の弱点を何千も発見できると述べている。多くはパッチが当てられていないため未公開のままであり、未解決の欠陥が残っている。 「何かを発表しても修正されていなければ、悪意のある者がそれを悪用するだろう」とアモデイは述べた。

制御されたテストでは、ミュトスは人間の介入なしに複数のネットワーク攻撃シミュレーションを完了し、弱点の特定から悪用までの能力を示した。 アンソロピックは、モデルをProject Glasswingの一部のパートナーに限定し、類似のツールが広く利用される前に脆弱性を修正することを目指している。 研究者たちは、ミュトスの能力の一部を既存のモデルやオープンソースの技術を使って再現できることを示しており、同様のツールが予想以上に早く普及する可能性を示唆している。 これらの警告には、業界内から懐疑的な見方もある。4月にOpenAIのCEOサム・アルトマンは、ミュトスに関する懸念は過大評価されている可能性があり、アンソロピックが「恐怖を煽るマーケティング」を使ってリスクを強調し、技術へのアクセスを制限しようとしていると示唆した。 「それはさまざまな方法で正当化できるし、その中には本当に安全性の懸念もある」とアルトマンは述べた。「しかし、もしあなたが望むのが『私たちだけがAIをコントロールすべきだ、信頼できる人間だけが』ということであれば、恐怖を煽るマーケティングがそれを正当化する最も効果的な方法だと思う」 その反発にもかかわらず、アンソロピックとの公の対立にもかかわらず、米国政府はクローズドネットワークの脆弱性をスキャンし、サイバーセキュリティ能力をテストするためにClaude Mythosを使用していると報じられている。_Axios_によると、アモデイは進行中の法的闘争には触れなかったが、アンソロピックは「この国にとって良いことだ」と述べた。 「私の考えでは、アンソロピックの見解は常に変わらない。政治化について言えば、これは私が言ったように、合理化され、体系的で、公平であるべきだということだ」とアモデイは述べた。「法律の目的は、アドホックに物事を行わないことであり、すべての企業が原則的には—実際にはもっと複雑だけれども—同じように扱われるべきだということであり、それを目指すべきだ。ただ、それが完璧に実現することは決してないだろうが」 アモデイは、この瞬間を行動の狭い窓口と位置付け、組織の対応の速さがリスクの拡大を招くか制御下に置くかを決定すると警告した。

「これは危険の瞬間であり、正しく対応すれば、より良い世界を築くことができると思う」とアモデイは述べた。「見つけるバグはあとわずかしかない」