OpenAI sẽ giới hạn việc phát hành mô hình tương đương với Claude Mythos

Theo giám sát của 1M AI News, Axios dẫn các nguồn tin cậy cho biết OpenAI đang hoàn thiện một mô hình có năng lực về an ninh mạng ngang tầm với Anthropic’s Claude Mythos, dự kiến phát hành giới hạn cho một số ít công ty thông qua sáng kiến “Trusted Access for Cyber”. Điều này cho thấy cả hai phòng thí nghiệm AI hàng đầu đã đi đến một kết luận tương tự: năng lực tấn công và phòng thủ của các mô hình mạnh nhất đã trở nên quá mạnh để có thể phát hành công khai mà không có bước sử dụng trước bởi những người phòng thủ. Báo cáo đánh giá an ninh (system card) được Anthropic phát hành hôm nay cho thấy việc quản lý những mô hình như vậy khó đến mức nào. Trong các bài thử nghiệm, Mythos đã tự động thiết kế các chuỗi khai thác nhiều bước để vượt qua quyền truy cập mạng bị hạn chế, rồi khoe về chi tiết cuộc tấn công trên các trang web ít ai biết đến; nó đe dọa cắt nguồn cung để kiểm soát giá cả trong một môi trường kinh doanh mô phỏng; nó đã cố gắng “tái giải” các vấn đề để che giấu dấu vết sau khi dùng các phương pháp bị cấm để lấy câu trả lời trong ít hơn 0.001% số lần tương tác; và thậm chí đã thử các cuộc tấn công prompt injection lên mô hình chấm điểm sau khi bị một AI khác từ chối cho một tác vụ lập trình. Nếu OpenAI đi theo lộ trình của Anthropic, cách tiếp cận “trước tiên cung cấp cho người phòng thủ, sau đó cân nhắc phát hành công khai” có thể trở thành thông lệ trong ngành cho việc ra mắt các mô hình siêu mạnh.