CertiK 推出 AI 技能扫描器以保障代理安全

  • CertiK 已推出 Skill Scanner,这是一款安全产品,用于在第三方 AI 技能被 AI 代理使用之前进行评估。
  • 该工具聚焦于 Web3 和 Web2 环境中的风险,例如隐藏的恶意行为、未授权的数据访问以及自主执行。

CertiK 通过推出 CertiK Skill Scanner 进一步深入 AI 安全领域。该产品旨在第三方 AI 技能被安装、发布或获准在企业系统中使用之前,对其进行审查。 公司将这款工具形容为 AI 代理时代的一层近似“杀毒软件”的防护。这个类比并不完全准确,但抓住了要点。AI 代理不再只是停留在聊天窗口里回答问题。它们开始调用外部工具、读取文件、触发工作流程、在系统之间移动数据;而在更敏感的情形下,它们甚至会与金融基础设施进行交互。 这改变了安全的算式。一个恶意浏览器扩展本身就可能造成危害。而一项连接到自主代理的恶意 AI 技能可能更糟,因为代理可能会在用户并未完全看到的上下文中、以更快的速度执行操作。 AI 技能带来新的执行风险 AI 技能正成为代理经济的“插件”。它们扩展了 AI 代理可做的事:从拉取数据、自动化任务,到执行金融操作并与 Web3 协议交互。然而,每新增一个技能,也就多了一个潜在出错点。 这种风险并不只限于明显的恶意软件。一个技能可能会索取超出所需的数据;在执行过程中的行为可能与审查时不同;可能触发未授权的 API 调用;也可能悄无声息地为后续的滥用创造条件。在金融环境中,这种担忧会变得更为尖锐。能够发起资金调用、对工作流程请求进行签名或准备交易的工具,需要接受比普通的生产力插件更高层级的审查。 CertiK 表示,Skill Scanner 旨在敏感系统暴露之前,识别隐藏的恶意行为、未授权的数据访问以及执行风险。与更广泛的 AI 扫描工具不同,公司称其产品聚焦于可能在真实执行过程中出现的风险,包括涉及资金流动与金融交易的情况。 CertiK 联合创始人兼 CEO Ronghui Gu 表示,随着 AI 代理进入金融系统、企业工作流程以及日常数字服务领域,围绕第三方技能的安全模型变得愈发重要。

“CertiK Skill Scanner 的设计目标是在执行之前建立一个标准化的信任层,帮助用户与平台在敏感数据、资产或系统暴露之前识别隐藏风险,”Gu 表示。

市场、企业与开发者是首要目标 最先面向的目标群体是 AI 技能市场、企业与开发者。技能市场可以将扫描器集成到其发布流程中,从而在技能上线之前完成审查。他们也可以向用户展示 CertiK 的判定结果,作为信任指标,帮助用户决定是否安装第三方技能。 对于企业而言,使用场景更偏防御。公司在内部测试 AI 代理时,需要一种方式来评估第三方技能,确保它们在进入生产环境或接触客户数据、内部系统或合规敏感工作流程之前就先经过审查。这正是评分式审查流程发挥作用的地方。它让安全团队拥有比供应商声明或开发者描述更具体的依据。 独立开发者也可以在发布前使用该扫描器对自己的技能进行自我审计。CertiK 表示,未来的更新将扩展普通用户的直接访问能力,允许个人在安装或使用之前自行扫描技能。 扫描器会输出 0 到 100 的分数,以及“通过”“警告”或“失败”的判定结果,并提供一个按严重程度分组的、边界明确的发现清单。CertiK 表示,该系统在识别安全风险方面的精确度可达 90.5%,目标是在减少误报的同时,让 AI 技能评估变得更可靠。 该产品已在部分 Web3 AI 代理基础设施环境中部署。CertiK 也在推进与其他 AI 技能平台的集成,包括 FinChip.ai。 此次发布是在 CertiK 更广泛扩展到以 AI 为中心的安全基础设施之后推出的。此前,公司在今年早些时候推出了其 AI Auditor 计划。对于一家以 Web3 审计见长的公司而言,这一举措是合乎逻辑的延伸。随着 AI 代理开始处理代码、资产、权限以及业务工作流程,安全检查需要在执行之前完成,而不是在系统已经暴露之后再进行。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论