Anthropic 首席执行官警告网络“危险时刻”，因为人工智能暴露出数千个漏洞

达里奥·阿莫迪，Anthropic的首席执行官兼联合创始人离职，杰米·戴蒙，摩根大通首席执行官。

丹尼斯·巴利布斯 | 路透社 | 塞缪尔·科鲁姆 | 彭博社 | 盖蒂图片社

Anthropic首席执行官达里奥·阿莫迪周二警告，人工智能为全球科技公司、政府和银行修复其公司最新模型发现的数万个软件漏洞创造了一个狭窄的窗口。

该AI模型，名为Mythos，上个月已预览，并披露它已发现关键软件中存在数十年的漏洞。

由于来自地缘政治对手中国的AI模型“可能比Anthropic的产品落后六到十二个月”，阿莫迪表示，“大致有那么多时间”来修复这些问题。

这些评论是在一次Anthropic活动中发表的，阿莫迪与摩根大通首席执行官杰米·戴蒙同台，并推出了一套旨在自动化金融工作的新代理。

“危险在于漏洞数量、入侵事件以及由勒索软件对学校、医院，更不用说银行造成的财务损失将会大幅增加，”阿莫迪说。

由于担心犯罪分子或敌对国家可能利用这些技术，Anthropic将Mythos限制在少数合作伙伴公司使用。公司最近几次模型更新在市场上引起了反响，但Mythos引发了企业和政策制定者的最大担忧。

阿莫迪表示，每一代Claude模型的潜在网络攻击规模都在扩大。早期的Anthropic模型在Firefox浏览器中发现了大约20个漏洞，而Mythos发现了近300个，所有软件中的漏洞总数现在已达到数万，他说。

大部分由Mythos发现的漏洞尚未公开披露，因为它们尚未修补，“坏人会利用”它们，如果被发现的话，阿莫迪说。

‘更美好的世界’

尽管发出警告，阿莫迪和戴蒙也表达了有条件的乐观。

“这是一个危险时刻，如果我们正确应对，我认为我们已经开始迈出第一步，那么在另一端我们可以迎来一个更美好的世界，”阿莫迪说。“漏洞也就那么多了。”

戴蒙也表示，虽然网络安全的担忧是合理的，但由AI带来的网络安全风险是一个“过渡期”。

关于监管问题，阿莫迪表示，AI监管应类似于汽车行业的做法，在保障消费者安全和允许行业竞争之间取得平衡。

“你不能仅仅开一家汽车公司而不问‘这车有刹车吗？’”他说。“我们需要摸索出一种流程，让行业能够高效运作，公平合理，但也对最严重的问题设立护栏。”

该公司此次活动及其与戴蒙的合作，似乎展示了Anthropic在企业AI市场上领先于OpenAI的地位，双方都正朝着潜在的首次公开募股（IPO）迈进。

Anthropic周二宣布扩展其金融服务平台，包括10个新的AI代理，用于投资银行和后台工作，以及与微软各种Office程序的集成。公司还表示，其最新广泛可用的模型——Claude Opus 4.7，在金融分析任务中领先于基准。