Thiết kế 'công tắc năng lực' của Anthropic lần này khá thú vị, quản lý mô-đun hóa kiến thức con dao hai lưỡi, chống lại tấn công fine-tune tốt hơn so với việc quên sau đó, an toàn AI lại có thêm một lớp bảo hiểm.

Xem bản gốc
CoinNetwork
币界网消息,Anthropic与AE Studio发布新研究,尝试给AI的「双用途知识」装上开关。双用途知识指既能用于正当研究,也可能被滥用的能力,比如病毒学、网络安全和核物理。研究团队在真实数据实验中测试了4类双用途领域:病毒学、网络安全、核物理和小众编程语言。4个模块可组合出16种能力配置。相比为每种配置单独训练模型,这种方法只需一次训练。结果显示,Gram在保留通用能力的同时,能较好移除目标能力,对小规模恶意微调的抵抗也强于训练后「遗忘」方法。
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim