OpenAI giới thiệu GPT-Red để tăng cường GPT-5,6 trước các cuộc tấn công tiêm lệnh (prompt injection)
OpenAI đã giới thiệu GPT-Red, một hệ thống AI tự động được thiết kế để nhận diện lỗ hổng bảo mật trong các mô hình ngôn ngữ, và cho biết vào hôm thứ Tư rằng công cụ này đã giúp củng cố GPT-5.6 chống lại các cuộc tấn công tiêm nhắc lệnh trước khi triển khai. Hệ thống được phát triển để giải quyết “nút thắt” trong việc mở rộng hoạt động red-teaming về an toàn AI khi năng lực của mô hình tăng lên. GPT-Red là nỗ lực của OpenAI nhằm tự động hóa việc kiểm thử an ninh, bổ sung cho OpenAI Red Teaming Ne
ETH-0,34%
OliverGrant·07-15 20:53
