📢 Gate 广场认证创作者招募中,入驻瓜分每月 $20,000 创作大奖!
📌 参与方式
站内创作者: 成功申请“创作者认证徽章”即可自动参与。
新入驻创作者: 需填写入驻表单申请 👉️ https://www.gate.com/questionnaire/7698
🎁 创作者福利
1️⃣ 首帖见面礼: 新入驻/回归创作者发首帖,即得 $50U 奖励!
2️⃣ 周度发帖奖: 完成周发帖任务,轻松瓜分 $10,000 奖池!
3️⃣ 月度创作奖: 赛道更多样,完成月度任务瓜分 $1,600 GT 奖池!
4️⃣ 专属推广任务:进入专属创作者社群,享专属推广任务和节日礼包!
让您的优质内容被更多人看到,携手共建高质量创作者社区!
活动细节:https://www.gate.com/announcements/article/51536
CertiK 推出 AI 技能扫描器以保障代理安全
CertiK 在推出 CertiK Skill Scanner 后,正在更深入地布局 AI 安全领域。该产品旨在对第三方 AI 技能进行审查:在它们被安装、发布或获准用于企业系统内部之前先完成评估。 该公司将这项工具描述为面向 AI 代理时代的一层类似防病毒软件的保障。这个类比并不完全贴切,但点到了要害。AI 代理不再只是停留在聊天窗口里回答问题。它们开始调用外部工具、读取文件、触发工作流、在系统之间传输数据;在更敏感的情况下,它们还会与金融基础设施进行交互。 这会改变安全的算式。一个糟糕的浏览器扩展已经可能带来危险。与之相比,连接到自主代理的糟糕 AI 技能可能更糟,因为代理可能会在用户并未完全察觉的情境和速度下执行操作。 AI 技能带来新的执行风险 AI 技能正成为代理经济的插件。它们将 AI 代理的能力从拉取数据、自动化任务,扩展到执行金融操作以及与 Web3 协议交互。然而,每新增一个技能,也就多出一个可能出问题的环节。 这种风险不仅限于显而易见的恶意软件。一个技能可能会索取超出所需的数据;在实际执行时的行为可能与审查时不同;可能触发未授权的 API 调用;也可能悄无声息地制造条件,供后续被滥用。在金融环境中,这种担忧会更加尖锐。能够发起资金调用、签署工作流请求或准备交易的工具,其审查所需的严密程度要远高于简单的效率/生产力型插件。 CertiK 表示,Skill Scanner 的构建目标是在敏感系统暴露之前,识别隐藏的恶意行为、未授权的数据访问以及执行风险。该公司表示,与更广泛的 AI 扫描工具不同,其产品聚焦于那些可能在真实执行过程中出现的风险,包括涉及资金流动和金融交易的情形。 CertiK 的 CEO 兼联合创始人 Ronghui Gu 表示:随着 AI 代理进入金融系统、企业工作流以及日常数字服务,围绕第三方技能的安全模型正变得愈发重要。
“CertiK Skill Scanner 的设计目标是在执行前建立标准化的信任层,帮助用户和平台在敏感数据、资产或系统暴露之前识别隐藏风险,”Gu 表示。
市场、企业和开发者是首批目标 首批目标群体是 AI 技能市场、企业以及开发者。技能市场可以将该扫描器集成到其发布流程中,从而在技能上线之前完成审查。它们也可以向用户展示 CertiK 的裁决,作为信任指示,帮助用户决定是否安装第三方技能。 对于企业而言,使用场景更偏防御。内部测试 AI 代理的公司需要一种方式,在这些技能进入生产环境或接触客户数据、内部系统或对合规敏感的工作流之前,对其第三方能力进行评估。正是在这里,带评分的审查流程就变得很有用。它为安全团队提供了比供应商的宣称或开发者的描述更具体的依据。 独立开发者也可以在发布前使用该扫描器对自己的技能进行自我审计。CertiK 表示,未来更新将扩大面向日常用户的直接访问能力,允许个人在安装或使用前自行扫描技能。 该扫描器会在 0 到 100 之间给出一个分数,并附带“通过”“警告”或“失败”的裁决,以及一个受限的发现清单,且按严重程度进行分组。CertiK 表示,该系统在识别安全风险方面的精确率最高可达 90.5%,目标是在降低误报的同时,让 AI 技能评估更可靠。 该产品已部署在部分 Web3 AI 代理基础设施环境中。CertiK 也在推进与更多 AI 技能平台的集成,包括 FinChip.ai。 此次发布是在 CertiK 更广泛扩展到 AI 方向的安全基础设施之后进行的。此前,该公司在今年早些时候推出了 AI Auditor 计划。对于一家以 Web3 审计见长的公司而言,这一举措是合乎逻辑的延伸。随着 AI 代理开始处理代码、资产、权限以及业务工作流,安全检查必须发生在执行之前,而不是在系统已暴露之后。