英伟达与 Anthropic 于 9 月 28 日推出开放式智能体安全平台
英伟达和 Anthropic 于 9 月 28 日(周一)推出了 Open Agent Safety Platform,引入了一套多层安全框架,用于控制 AI Agent 的权限和行为。该平台由 OpenShell 和 Sentry 组成:OpenShell 是提供沙盒执行环境的开源运行时软件;Sentry 则是运行在英伟达 BlueField-4 DPU 上的硬件安全层,可独立监控 AI Agent 活动并隔离未经授权的操作。 Claude Managed Agents 与该平台集成,用于管理 AI Agent 凭证和资源访问权限,包括文件、网络、工具和 API。英伟达表示,该系统有望防止类似近期涉及 Hugging Face 的事件。包括 SpaceX AI、Salesforce 和 SAP 在内的超过 100 家机构正在参与其中。
Gate News·14小时前
