Anthropic这波「能力开关」设计挺有意思，把双刃剑知识模块化管控，比事后遗忘更抗微调攻击，AI安全又多了一层保险。

币界网消息，Anthropic与AE Studio发布新研究，尝试给AI的「双用途知识」装上开关。双用途知识指既能用于正当研究，也可能被滥用的能力，比如病毒学、网络安全和核物理。研究团队在真实数据实验中测试了4类双用途领域：病毒学、网络安全、核物理和小众编程语言。4个模块可组合出16种能力配置。相比为每种配置单独训练模型，这种方法只需一次训练。结果显示，Gram在保留通用能力的同时，能较好移除目标能力，对小规模恶意微调的抵抗也强于训练后「遗忘」方法。