Anthropic這波「能力開關」設計挺有意思，把雙刃劍知識模塊化管控，比事後遺忘更抗微調攻擊，AI安全又多了一層保險。

幣界網消息，Anthropic 與 AE Studio 發佈新研究，嘗試給 AI 的「雙用途知識」裝上開關。雙用途知識指既能用於正當研究，也可能被濫用的能力，比如病毒學、網路安全與核物理。研究團隊在真實數據實驗中測試了 4 類雙用途領域：病毒學、網路安全、核物理與小眾程式語言。4 個模組可組合出 16 種能力配置。相比為每種配置單獨訓練模型，這種方法只需一次訓練。結果顯示，Gram 在保留通用能力的同時，能較好移除目標能力，對小規模惡意微調的抵抗也強於訓練後「遺忘」方法。