Anthropic công bố các biện pháp bảo mật cho Mô hình Fable 5 và Khung đánh giá hành vi vượt rào AI

robot
Đang tạo bản tóm tắt
Vào ngày 3 tháng 7, Anthropic đã công bố một khuôn khổ đề xuất để đánh giá mức độ nghiêm trọng của các hành vi 'vượt rào' (jailbreak) trí tuệ nhân tạo và trình bày chi tiết các biện pháp an ninh mạng được triển khai trong mô hình Claude Fable 5 ra mắt toàn cầu. Công ty phân loại các trường hợp sử dụng liên quan đến an ninh mạng thành bốn loại, từ 'sử dụng bị cấm' đến 'sử dụng vô hại'. Các hành vi sử dụng bị cấm bao gồm các hoạt động như phát triển ransomware, tạo phần mềm độc hại và tấn công cơ sở hạ tầng vật lý mạng. Các hoạt động rủi ro cao mang tính chất 'sử dụng kép', chẳng hạn như kiểm tra thâm nhập, sẽ bị chặn cho đến khi các cơ chế kiểm soát mạnh mẽ hơn được thiết lập. Hệ thống xếp hạng Mức độ nghiêm trọng của Jailbreak Mạng (Cyber Jailbreak Severity) do Anthropic đề xuất được phân loại từ CJS-0 đến CJS-4, chia thành năm cấp độ và được đánh giá qua bốn khía cạnh. Anthropic cũng đã khởi động dự án HackerOne, mời các nhà nghiên cứu bảo mật gửi các trường hợp vượt rào mô hình tiềm năng. (Sina Finance)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim