CertiK 推出 AI 技能扫描器以保障代理安全

  • CertiK 已推出 Skill Scanner,这是一款安全产品,用于在第三方 AI 技能被 AI 代理使用之前对其进行评估。
  • 该工具旨在应对的风险包括:隐藏的恶意行为、未授权的数据访问,以及在 Web3 和 Web2 环境中的自主执行等。

CertiK 正在通过推出 CertiK Skill Scanner 更深入地布局 AI 安全领域。该产品旨在 AI 技能被安装、发布或批准用于企业系统之内之前,先对其进行审查。 该公司将其工具形容为面向 AI 代理时代的一层“类杀毒软件”保护。这个类比并不完全精准,但抓住了重点:AI 代理不再只是停留在聊天窗口里回答问题。它们开始调用外部工具、读取文件、触发工作流,在系统之间传输数据,并且在更敏感的情况下与金融基础设施进行交互。 这会改变安全的算式。一个恶意的浏览器扩展本身就可能带来危险。而一项连接到自主代理的恶意 AI 技能可能更糟,因为代理可能以用户并未完全察觉的速度和上下文执行操作。 AI 技能带来新的执行风险 AI 技能正在成为代理经济中的插件。它们扩展了 AI 代理的能力:从拉取数据、自动化任务,到执行金融操作并与 Web3 协议交互。然而,每增加一个技能,也就多出一个可能出错的环节。 这种风险不仅限于明显的恶意软件。一个技能可能会索取超出所需的数据;在执行过程中的表现可能与审查阶段不同;可能触发未授权的 API 调用,或者悄悄制造条件以便后续被滥用。在金融环境中,这种担忧会变得更加尖锐:能够发起资金调用、签署工作流请求或准备交易的工具,其所需的审查力度必须不同于简单的效率类插件。 CertiK 表示,Skill Scanner 的构建目标是在敏感系统暴露之前,识别隐藏的恶意行为、未授权的数据访问以及执行风险。与更广泛的 AI 扫描工具不同,该公司称其产品聚焦于在实际执行过程中可能出现的风险,包括涉及资金流动和金融交易的情形。 CertiK 首席执行官兼联合创始人 Ronghui Gu 表示,随着 AI 代理进入金融系统、企业工作流以及日常数字服务领域,围绕第三方技能的安全模式正变得愈发重要。

“CertiK Skill Scanner 的设计目标是在执行之前建立一个标准化的信任层,帮助用户与平台在敏感数据、资产或系统被暴露之前识别隐藏风险,”Gu 表示。

市场、企业与开发者率先受益 最先成为目标的群体是 AI 技能市场、企业和开发者。市场方可以将扫描器集成到自身的发布流水线中,从而在技能上线之前完成审查。他们也可以向用户展示 CertiK 的裁定结果,作为信任指标,帮助用户决定是否安装第三方技能。 对企业而言,这一用例更偏防御。企业内部测试 AI 代理的团队需要一种方式,用于在技能进入生产环境或接触客户数据、内部系统或合规敏感工作流之前评估它。正是在这里,带评分的审查流程变得尤其有用:它为安全团队提供了比供应商说法或开发者描述更具体、更可操作的依据。 独立开发者也可以在发布之前使用扫描器对自身技能进行自我审计。CertiK 表示,未来的更新将扩展日常用户的直接访问能力,使个人能够在安装或使用之前自行扫描技能。 该扫描器会生成 0 到 100 的分数,并给出“通过”“警告”或“失败”的裁定,同时以严重程度分组列出一个范围明确的发现列表。CertiK 表示,该系统在识别安全风险方面的精确率最高可达 90.5%,目标是在降低误报的同时,让 AI 技能评估更可靠。 该产品已部署在部分 Web3 AI 代理基础设施环境中。CertiK 还在推进与更多 AI 技能平台的集成,包括 FinChip.ai。 此次发布是在 CertiK 更广泛扩展到 AI 方向的安全基础设施之后进行的;此前该公司今年早些时候推出了 AI Auditor 计划。对于一家以 Web3 审计见长的公司而言,这一步是合乎逻辑的延伸。随着 AI 代理开始处理代码、资产、权限和业务工作流,安全检查必须在执行之前完成,而不是在系统已经暴露之后再做。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论