谷歌利用人工智能打击黑客，利用公司数字防御中的未知弱点

谷歌周一表示，它已破坏了一个犯罪团伙利用人工智能来利用另一家公司之前未知的数字漏洞的企图，增加了政府和私营行业对AI在网络安全风险方面的担忧。

谷歌分享了关于攻击者和目标的有限信息，但该科技巨头的威胁情报部门首席分析师约翰·赫尔特奎斯特表示，这代表了多年来网络安全专家一直警告的一个时刻：恶意黑客正装备AI，以增强他们入侵全球计算机的能力。

“它已经到来了，”赫尔特奎斯特说。“基于AI的漏洞利用和剥削时代已经到来。”

这正值AI在发现漏洞方面能力飞跃的时期，包括由Anthropic一个月前宣布的Mythos模型。在试图增强防御的努力中，特朗普总统的白宫也在调整其审查最强大AI模型在公开发布前的方式。

在兑现推翻民主党总统乔·拜登关于快速发展的技术的监管措施的竞选承诺后，共和党政府及其盟友现在对政府在AI监管中扮演更大角色的信号表现出矛盾。

相关故事

谷歌以5000万美元和解种族歧视诉讼

谷歌表示，它发现了一个“威胁行为者”计划利用他们发现的一个漏洞进行大规模行动的证据。该漏洞使他们能够绕过两步验证，访问一个受欢迎的在线系统管理工具，谷歌未透露其名称。

公司称之为零日漏洞，一种利用之前未知安全漏洞的网络攻击。“零日”指的是安全工程师没有时间开发漏洞修复的事实。

谷歌表示，它已通知受影响的公司和执法部门，并在造成任何损害之前成功中断了行动。但在追踪黑客的足迹时，发现他们使用了AI大型语言模型——与驱动流行聊天机器人的技术相同——来发现该漏洞。

谷歌没有透露在网络攻击中使用的具体AI模型，只表示很可能不是谷歌自己的Gemini或Anthropic的Claude Mythos。谷歌也没有透露怀疑的黑客团伙，但表示没有证据显示其与敌对政府有关，尽管公司指出与中国和朝鲜有关的团体一直在探索类似技术。

赫尔特奎斯特表示，与通常行动缓慢、悄无声息的政府间谍相比，犯罪黑客从AI在发现和武器化安全漏洞方面的“巨大能力”中获益最大。

“你和他们之间正进行一场比赛，试图在他们获得你所需的所有数据以勒索你或发动勒索软件之前阻止他们，”他在一次采访中说。“AI将成为一个巨大优势，因为他们可以行动得更快。”

Anthropic的Mythos引发恐慌和监管呼声

特朗普的商务部上周宣布，它与谷歌、微软和埃隆·马斯克的xAI签署了新协议，以在公开发布前评估它们最强大的AI模型，继拜登政府之前与Anthropic和ChatGPT制造商OpenAI达成的协议之后。但该公告后来从商务部网站上消失了。

这是自Anthropic宣布一款名为Mythos的新模型以来，特朗普政府在一个月内发出混乱信号的最新例子。该模型被称为在黑客攻击和网络安全工作方面“令人震惊的能力”，只能向少数受信任的组织发布。

Anthropic创建了一个名为Project Glasswing的项目，汇集了亚马逊、苹果、谷歌和微软等科技巨头，以及摩根大通等其他公司，旨在保护全球关键软件免受“严重”后果的影响，这些后果可能对公共安全、国家安全和经济造成威胁。但其与美国政府的关系因与五角大楼和特朗普本人在军事使用其AI技术上的公开和法律争斗而复杂。

其主要竞争对手OpenAI随后推出了类似模型。该公司周五表示，将发布一个专门的网络安全版本的ChatGPT，只对“负责保护关键基础设施的防御者”开放，以帮助他们发现和修补代码中的漏洞。

Ball表示，他对长期来看，越来越擅长编码的AI工具将使我们远离医院、学校和其他组织面临的常规网络攻击感到乐观。然而，他也指出，支持全球计算系统的“难以计数的数万亿行软件代码”如果被AI工具利用所有漏洞，可能面临风险。

完善所有这些软件可能需要数年时间——Ball相信，这一过程将通过美国政府的协调得到帮助。

与此同时，Ball预测将出现一个“过渡期”，网络安全风险显著上升，“世界可能变得更危险”。