廣場
最新
熱門
新聞
我的主頁
發布
Anthropic 發布 Fable 5 模型的安全措施與 AI 越獄行為評估框架
空投黑洞
2026-07-07 10:20:10
關注
摘要生成中
2023年7月3日，Anthropic 公布了一項評估人工智慧「越獄」行為嚴重程度的擬議框架，並詳細說明了在全球推出的 Claude Fable 5 模型中所實施的網路安全措施。該公司將與網路安全相關的使用案例分為四類，從「禁止使用」到「無害使用」。禁止使用包括勒索軟體開發、惡意軟體創建以及對網路物理基礎設施的攻擊等活動。具有「雙重用途」特徵的高風險活動（如滲透測試）將被攔截，直到建立更穩健的控制機制。Anthropic 提出的網路越獄嚴重程度評級系統範圍從 CJS-0 到 CJS-4，分為五個等級，並從四個維度進行評估。Anthropic 還推出了 HackerOne 項目，邀請安全研究人員提交潛在的模型越獄案例。（新浪財經）
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
預測世界盃阿根廷VS埃及
22.6萬 熱度
#
Strategy上週減持3588枚BTC
1465.24萬 熱度
#
GT二季度銷毀257萬枚
11.66萬 熱度
#
SK海力士ADR獲超額認購
47.7萬 熱度
#
USD1鏈上質押享年化8.88%
97.26萬 熱度
已置頂
網站地圖
Anthropic 發布 Fable 5 模型的安全措施與 AI 越獄行為評估框架