AnthropicのCEOがAIによる数千の脆弱性露呈でサイバーの「危機の瞬間」を警告

アントロピックのCEO兼共同創設者ダリオ・アモデイが退任し、JPMorgan ChaseのCEOジェイミー・ダイモン。

ロイターのデニス・バリブーズ | サミュエル・コラム | ブルームバーグ | ゲッティイメージズ

アントロピックのCEOダリオ・アモデイは火曜日、人工知能が世界のテック企業、政府、銀行にとって、彼の会社の最新モデルによって発見された数万のソフトウェア脆弱性を修正するための狭い時間枠を作り出していると警告した。

そのAIモデル、ミュトスは先月プレビューされ、重要なソフトウェアにおいて数十年前の脆弱性を発見したことも明らかにされた。

中国の地政学的敵対国からのAIモデルは「おそらく6〜12ヶ月」遅れているため、アモデイは「おおよそその時間」内にこれらの問題を修正する必要があると述べた。

このコメントは、アモデイがJPMorgan ChaseのダイモンCEOと共に舞台に立ち、金融業務を自動化するための新しいエージェント群を発表したアントロピックのイベント中に出された。

「危険は、脆弱性の増加、侵害の増加、学校や病院、銀行を含むランサムウェアによる経済的損害の増大にある」とアモデイは述べた。

アントロピックは、犯罪者や敵対国がこれを悪用する可能性を懸念し、ミュトスをいくつかのパートナー企業に限定している。同社のモデルアップデートのいくつかは市場に大きな影響を与えてきたが、ミュトスは企業や政策立案者の間で最も懸念を呼んでいる。

アモデイによると、クロードの各世代とともに潜在的なサイバー攻撃の規模は拡大している。以前のアントロピックモデルはFirefoxブラウザの脆弱性を約20個見つけたが、ミュトスはほぼ300個を発見し、すべてのソフトウェアの合計数は現在数万に達しているという。

ミュトスによって見つかった脆弱性のほとんどは未公開のままであり、修正されていないため、「悪者たちはそれらを悪用するだろう」とアモデイは述べた。

『より良い世界』

警告にもかかわらず、アモデイとダイモンの両者は条件付きの楽観主義も示した。

「これは危険の瞬間であり、正しく対応すれば、そして私たちが最初の一歩を踏み出し始めたなら、向こう側にはより良い世界が待っている」とアモデイは述べた。「見つけるバグはもうそれほど多くない。」

ダイモンも、サイバーセキュリティの懸念は正当化される一方で、AIによるサイバーリスクは「一時的な期間」であると述べた。

規制の問題について、アモデイはAIの監督は自動車産業で行われていることに似ているべきだとし、消費者の安全と産業の競争を両立させるバランスを取る必要があると述べた。

「ブレーキが付いているかどうかもわからず車の会社を始めることはできない」と彼は言った。「私たちは、産業が迅速に運営できるようにしつつ、公正であり、最も深刻な問題にガードレールを設けるプロセスを模索しなければならない。」

この会社のイベントと、金融業界で最も著名なスポークスマンであるダイモンとの舞台設定は、両社がIPOに向かう中で、アントロピックがOpenAIに対してエンタープライズAI市場でリードしていることを示しているようだ。

アントロピックは火曜日、投資銀行やバックオフィス業務向けの新しいAIエージェント10種を含む金融サービスプラットフォームの拡張と、Microsoftの各種Officeプログラムとの連携を発表した。また、同社の最新の広く利用可能なモデルであるClaude Opus 4.7が金融分析タスクのベンチマークをリードしているとも述べた。

今すぐ視聴

ビデオ1:51

アントロピック、新しい金融機関向けAIツール群を発表

マネーマーバーズ

GoogleでCNBCをあなたのお気に入りの情報源に設定し、ビジネスニュースの最も信頼される名前からの瞬間を見逃さない。