OpenAI huấn luyện AI để tấn công chính các mô hình của mình, tỷ lệ thành công 84% cao hơn con người

robot
Đang tạo bản tóm tắt
Theo dõi Beating, OpenAI công bố mô hình red-team tự động GPT-Red. Nó được thiết kế để học các cuộc tấn công prompt injection thông qua tự đấu kiếm, sau đó dùng các lỗ hổng tìm được để huấn luyện GPT-5.6. GPT-Red chỉ phục vụ nội bộ, không mở cho bên ngoài.

Trong một loạt kịch bản mới, chưa tham gia huấn luyện, GPT-Red đạt tỷ lệ tấn công thành công vào GPT-5.1 là 84%, trong khi red-team của con người chỉ là 13%. Nó cũng xâm nhập được vào agent máy bán hàng tự động, khiến giá sản phẩm giảm và hủy đơn hàng của người khác. Khi thử Codex CLI, nó cũng có thể lôi kéo agent rò rỉ dữ liệu nhạy cảm.

Sau khi trải qua huấn luyện đối kháng, GPT-5.6 Sol, trước các cuộc prompt injection trực tiếp của GPT-Red, có tỷ lệ tấn công thành công giảm xuống còn 0,05%.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim