CertiK 正在借助 CertiK Skill Scanner 的发布更深入地推进 AI 安全工作。这是一款面向第三方 AI 技能的产品,目的是在其安装、发布或被批准用于企业系统内部之前,对其进行审查。
该公司将这款工具描述为 AI 代理时代的一层类似“杀毒软件”的防护。这个比喻并不完全贴切,但抓住了要点。AI 代理不再只是为了在聊天窗口里回答问题而存在。它们开始调用外部工具、读取文件、触发工作流、在系统之间移动数据,而在更敏感的情况下,还会与金融基础设施交互。
这改变了安全方程。一个恶意的浏览器扩展就已经可能造成危险。一个与自主代理相连的恶意 AI 技能则可能更糟,因为代理可能会以用户并不能完全看清的速度和上下文执行操作。
AI 技能带来了新的执行风险
AI 技能正逐渐成为代理经济中的“插件”。它们拓展了 AI 代理的能力:从拉取数据和自动化任务,到执行金融操作、并与 Web3 协议进行交互。然而,每增加一个技能,也就多出一个可能出错的环节。
这种风险并不只限于显而易见的恶意软件。一个技能可能会请求超过其所需的数据,执行时的行为与审查时不同,触发未经授权的 API 调用,或者悄悄地为后续的滥用创造条件。在金融环境中,这种担忧会变得更加尖锐。能够发起资金调用、签署工作流请求或准备交易的工具,需要的审查力度要远高于一个简单的生产力插件。
CertiK 表示,Skill Scanner 的设计目标是在敏感系统暴露之前,检测隐藏的恶意行为、未经授权的数据访问以及执行风险。该公司称,与更广泛的 AI 扫描工具不同,它的产品聚焦于可能在真实执行过程中出现的风险,包括涉及资金流转与金融交易的情形。
CertiK 首席执行官兼联合创始人 Ronghui Gu 表示,随着 AI 代理进入金融系统、企业工作流以及日常数字服务,围绕第三方技能的安全模型正变得愈发重要。
市场、企业和开发者是首批目标
首批目标用户群体是 AI 技能市场、企业以及开发者。市场方可以将扫描器集成到其发布流程中,从而在技能上线之前就完成审查。它们也可以向用户展示 CertiK 的判定结果,作为用户决定是否安装第三方技能的信任指示。
对于企业而言,用例更偏向防御。公司在内部测试 AI 代理时,需要一种方式来评估第三方技能,确保它们在进入生产环境或触及客户数据、内部系统或合规敏感工作流之前就先经过检查。这正是一个带分值的审查流程开始发挥作用的地方。它让安全团队获得的内容比供应商的声明或开发者的描述更具体。
独立开发者也可以在发布之前使用扫描器对自身技能进行自我审计。CertiK 表示,未来更新将扩展面向日常用户的直接访问权限,让个人在安装或使用之前就能自行扫描技能。
该扫描器会生成 0 到 100 的分数,并附带“通过”“警告”或“失败”的判定结果,以及按严重程度分组的、限定范围的发现列表。CertiK 表示,该系统在识别安全风险方面的精度最高可达 90.5%,旨在在减少误报的同时,使 AI 技能评估更加可靠。
该产品已部署到部分 Web3 AI 代理基础设施环境中。CertiK 也在推进与其他 AI 技能平台的集成开发,包括 FinChip.ai。
此次发布是在 CertiK 更广泛扩展 AI 重点安全基础设施之后进行的。该公司今年早些时候推出了 AI Auditor 计划。对于一家最为人熟知的是 Web3 审计业务的公司而言,这一举措是合乎逻辑的延伸。随着 AI 代理开始处理代码、资产、权限以及业务工作流,安全检查需要在执行之前完成,而不是等到系统已经暴露之后再补救。
CertiK推出用于智能体安全的人工智能技能扫描器
CertiK 正在借助 CertiK Skill Scanner 的发布更深入地推进 AI 安全工作。这是一款面向第三方 AI 技能的产品,目的是在其安装、发布或被批准用于企业系统内部之前,对其进行审查。 该公司将这款工具描述为 AI 代理时代的一层类似“杀毒软件”的防护。这个比喻并不完全贴切,但抓住了要点。AI 代理不再只是为了在聊天窗口里回答问题而存在。它们开始调用外部工具、读取文件、触发工作流、在系统之间移动数据,而在更敏感的情况下,还会与金融基础设施交互。 这改变了安全方程。一个恶意的浏览器扩展就已经可能造成危险。一个与自主代理相连的恶意 AI 技能则可能更糟,因为代理可能会以用户并不能完全看清的速度和上下文执行操作。 AI 技能带来了新的执行风险 AI 技能正逐渐成为代理经济中的“插件”。它们拓展了 AI 代理的能力:从拉取数据和自动化任务,到执行金融操作、并与 Web3 协议进行交互。然而,每增加一个技能,也就多出一个可能出错的环节。 这种风险并不只限于显而易见的恶意软件。一个技能可能会请求超过其所需的数据,执行时的行为与审查时不同,触发未经授权的 API 调用,或者悄悄地为后续的滥用创造条件。在金融环境中,这种担忧会变得更加尖锐。能够发起资金调用、签署工作流请求或准备交易的工具,需要的审查力度要远高于一个简单的生产力插件。 CertiK 表示,Skill Scanner 的设计目标是在敏感系统暴露之前,检测隐藏的恶意行为、未经授权的数据访问以及执行风险。该公司称,与更广泛的 AI 扫描工具不同,它的产品聚焦于可能在真实执行过程中出现的风险,包括涉及资金流转与金融交易的情形。 CertiK 首席执行官兼联合创始人 Ronghui Gu 表示,随着 AI 代理进入金融系统、企业工作流以及日常数字服务,围绕第三方技能的安全模型正变得愈发重要。
“CertiK Skill Scanner 的目标是在执行前建立一个标准化的信任层,帮助用户与平台在敏感数据、资产或系统暴露之前识别隐藏风险,”Gu 说。
市场、企业和开发者是首批目标 首批目标用户群体是 AI 技能市场、企业以及开发者。市场方可以将扫描器集成到其发布流程中,从而在技能上线之前就完成审查。它们也可以向用户展示 CertiK 的判定结果,作为用户决定是否安装第三方技能的信任指示。 对于企业而言,用例更偏向防御。公司在内部测试 AI 代理时,需要一种方式来评估第三方技能,确保它们在进入生产环境或触及客户数据、内部系统或合规敏感工作流之前就先经过检查。这正是一个带分值的审查流程开始发挥作用的地方。它让安全团队获得的内容比供应商的声明或开发者的描述更具体。 独立开发者也可以在发布之前使用扫描器对自身技能进行自我审计。CertiK 表示,未来更新将扩展面向日常用户的直接访问权限,让个人在安装或使用之前就能自行扫描技能。 该扫描器会生成 0 到 100 的分数,并附带“通过”“警告”或“失败”的判定结果,以及按严重程度分组的、限定范围的发现列表。CertiK 表示,该系统在识别安全风险方面的精度最高可达 90.5%,旨在在减少误报的同时,使 AI 技能评估更加可靠。 该产品已部署到部分 Web3 AI 代理基础设施环境中。CertiK 也在推进与其他 AI 技能平台的集成开发,包括 FinChip.ai。 此次发布是在 CertiK 更广泛扩展 AI 重点安全基础设施之后进行的。该公司今年早些时候推出了 AI Auditor 计划。对于一家最为人熟知的是 Web3 审计业务的公司而言,这一举措是合乎逻辑的延伸。随着 AI 代理开始处理代码、资产、权限以及业务工作流,安全检查需要在执行之前完成,而不是等到系统已经暴露之后再补救。