深潮 TechFlow 訊息,7 月 25 日,Anthropic 宣布其 Opus 5 模型在瀏覽器智慧體情境中幾乎免疫提示詞注入攻擊。在 129 個測試情境中,攻擊成功率為零;在 Gray Swan 通用提示詞注入測試中,15 次嘗試後的成功率從 Opus 4.8 的 5.5% 降至 2.0%。零成功率僅在 Claude Cowork 等產品啟用 Auto Mode 時實現,該模式疊加了輸入掃描與執行攔截兩層防禦。提示詞注入被視為 AI 智慧體面臨的最大安全隱患之一,此次改進或標誌著該問題在特定情境下得到有效緩解。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆