犯罪黑客利用 AI 編寫有效的零日漏洞利用程序

谷歌威胁情报小组周日表示，他们发现了被认为是首个由人工智能模型协助构建的零日漏洞利用。

据谷歌在其云博客上发布的一份报告显示，一个犯罪黑客组织将其写成一个Python脚本，以绕过开源网页管理员工具中的双因素认证（2FA）。该公司与供应商合作，在大规模利用之前阻止了此事。

谷歌通过代码模式将漏洞利用与AI联系起来

谷歌没有指责其自身的Gemini模型。分析师指出，代码中的结构模式强烈暗示了AI的参与。

“根据这些漏洞利用的结构和内容，我们高度相信，行为者可能利用了AI模型来支持此漏洞的发现和武器化，”谷歌写道。

该Python脚本具有异常详细的教育性文档字符串、虚构的CVSS严重性评分，以及典型的大型语言模型输出格式。

其中包括结构化的帮助菜单和以教科书风格编写的干净色彩类。

谷歌尚未公布黑客组织的名称或被针对的具体工具。

国家支持的黑客利用AI模型进行漏洞研究

谷歌的报告不仅仅涉及单一的零日漏洞案例。

据谷歌威胁情报小组称，来自中国和朝鲜的黑客表现出强烈兴趣，利用AI寻找并利用软件漏洞。

一个名为UNC2814的中国威胁组织攻击电信和政府目标。该组织使用谷歌称之为“人格驱动越狱”的技术。

该组织指示AI模型表现为高级安全审计员，然后让其分析TP-Link的嵌入式设备固件和Odette文件传输协议实现中的远程代码执行漏洞。

该组织促使AI模型扮演高级安全审计员的角色，然后让其搜索TP-Link嵌入式设备固件和Odette文件传输协议实现中的远程代码执行漏洞。

另一个与中国有关的组织使用名为Strix和Hexstrike的工具，攻击一家日本科技公司和一家主要的东亚网络安全公司。

黑客利用AI快速发现和利用零日漏洞。来源：谷歌云博客。

朝鲜的APT45采取了不同的方法。它向AI模型递送数千个重复的提示，以递归分析已知的CVE条目并验证概念验证的漏洞利用。

谷歌表示，这种方法产生了“更强大的漏洞利用能力库，没有AI的协助将难以管理”。

AI推动新型恶意软件和规避技术

谷歌的报告还涉及除漏洞研究之外的其他AI威胁。

疑似俄罗斯黑客利用AI编写和构建多态恶意软件及混淆网络。这些恶意软件加快了开发周期，并帮助他们规避检测。

谷歌还警告了一种名为PROMPTSPY的恶意软件，描述其为自主攻击操作的转变。该恶意软件利用AI模型解释系统状态，并动态生成命令以操控受害环境。攻击者可以将操作决策交由模型本身处理。

威胁行为者现在通过专业中间件和自动账户注册系统获取匿名的高级语言模型访问权限。这些服务使黑客能够通过试用账户大规模规避使用限制，为其活动提供资金。

谷歌追踪的一个名为TeamPCP（也称为UNC6780）的组织，已开始将AI软件依赖作为进入更广泛网络的入口。他们利用被攻陷的AI工具作为部署勒索软件和敲诈的立足点。

谷歌表示，它也在防御性地使用自己的AI工具。公司提到Big Sleep，一款识别软件漏洞的AI代理，以及CodeMender，利用Gemini的推理自动修补漏洞。

谷歌还表示，会禁用被发现滥用Gemini进行恶意活动的账户。

不仅仅是阅读加密新闻。理解它。订阅我们的新闻简报。免费。