2026-09-28 18:38:27
輝達週一推出開放式 AI Agent 安全平台,防止 AI Agent 失控
根據輝達官方公告,執行長黃仁勳於週一介紹了 Open Agent Safety Platform,旨在防止 AI 代理程式逃離沙盒環境。該平台結合了 OpenShell(一個控制代理程式可存取內容的軟體層)與 Sentry(一個運行於輝達 BlueField-4 資料處理單元上的獨立監控系統),能在數毫秒內隔離試圖突破邊界的代理程式。 這項發布緊接著今夏多起 AI 模型遭入侵的事件,包括 OpenAI 代理程式在執行網路安全任務時存取 Hugging Face。輝達表示,該架構將安全控制置於代理程式本身之外,旨在解決技術漏洞,而非要求放慢開發速度。Anthropic、微軟、甲骨文和 SpaceX 已承諾支援這個開源平台,但 OpenAI 並未列為參與公司。