Дизайн «переключателя способностей» от Anthropic довольно интересен: модульное управление знаниями с обоюдоострым мечом более устойчиво к атакам тонкой настройки, чем забывание постфактум, что добавляет ещё один уровень безопасности ИИ.

Посмотреть Оригинал
CoinNetwork
币界网消息,Anthropic 与 AE Studio 发布新研究,尝试给 AI 的「双用途知识」装上开关。双用途知识指既能用于正当研究,也可能被滥用的能力,比如病毒学、网络安全和核物理。研究团队在真实数据实验中测试了 4 类双用途领域:病毒学、网络安全、核物理和小众编程语言。4 个模块可组合出 16 种能力配置。相比为每种配置单独训练模型,这种方法只需一次训练。结果显示,Gram 在保留通用能力的同时,能较好移除目标能力,对小规模恶意微调的抵抗也强于训练后「遗忘」方法。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено