Anthropic tuyên bố không có 'công tắc chết' cho các mô hình AI triển khai tại Lầu Năm Góc

Theo giám sát của Beating, Anthropic đã nộp tài liệu cho Tòa án Phúc thẩm Liên bang Washington nói rằng một khi các mô hình AI của họ được triển khai trong môi trường Pentagon, công ty không có khả năng nhìn thấy hoặc kiểm soát kỹ thuật các mô hình này, và không có ‘công tắc tắt’ nào được thiết lập. Anthropic cũng lưu ý rằng Pentagon đã có cơ hội thử nghiệm các mô hình trước khi triển khai. Tài liệu này đại diện cho diễn biến mới nhất trong tranh chấp giữa Anthropic và Pentagon về nhãn ‘rủi ro chuỗi cung ứng’. Vào tháng 3 năm nay, Pentagon đã xếp Anthropic vào danh sách rủi ro chuỗi cung ứng, trích dẫn việc công ty can thiệp không đúng cách vào cách sử dụng công nghệ của mình trong các hoạt động quân sự nhạy cảm. Vấn đề chính của tranh chấp nằm ở chính sách sử dụng của Anthropic, cấm Claude được sử dụng cho vũ khí tự động hoặc giám sát quy mô lớn, một điều khoản mà Pentagon cho là ‘bình phong che mắt.’ Các vụ kiện đã dẫn đến sự chia rẽ giữa hai tòa án: tòa Washington từ chối yêu cầu của Anthropic tạm hoãn nhãn rủi ro chuỗi cung ứng, trong khi tòa California đã chấp thuận. Hiệu quả thực tế là Anthropic không thể tham gia các hợp đồng mới của Pentagon nhưng vẫn có thể cung cấp dịch vụ cho các cơ quan chính phủ khác. Trong khi đó, chính quyền Trump đang thúc đẩy triển khai mô hình mới của Anthropic, Mythos, trong các cơ quan liên bang, với các trưởng cơ quan đang khám phá cách sử dụng Mythos để phòng thủ chống các cuộc tấn công mạng, mâu thuẫn với quan điểm của Pentagon rằng Anthropic gây rủi ro an ninh quốc gia. Phiên điều trần tiếp theo dự kiến vào ngày 19 tháng 5.