Alibaba cấm Claude Code vì lo ngại về an ninh backdoor bị cáo buộc

Alibaba đã cấm nhân viên sử dụng Claude Code của Anthropic trong môi trường làm việc từ ngày 10 tháng 7 vì lo ngại về an ninh liên quan đến các backdoor ẩn, theo một người quen thuộc với quyết định này.

Tóm tắt

• Alibaba sẽ chặn nhân viên sử dụng Claude Code trong môi trường làm việc từ ngày 10 tháng 7 vì lo ngại về an ninh.
• Hạn chế được báo cáo này diễn ra vài tuần sau khi JPMorgan và Goldman Sachs hạn chế quyền truy cập vào các mô hình Claude của Anthropic tại Hồng Kông.
• Anthropic gần đây đã khôi phục các mô hình AI mới nhất của mình sau khi chính quyền Hoa Kỳ dỡ bỏ các hạn chế xuất khẩu và phê duyệt các biện pháp an toàn mới.

Theo một nguồn tin quen thuộc với vấn đề này, hạn chế sẽ áp dụng trên toàn bộ môi trường làm việc nội bộ của Alibaba và có hiệu lực từ ngày 10 tháng 7. Người này cho biết công ty đã đưa ra quyết định này vì những rủi ro an ninh được cho là liên quan đến các backdoor ẩn trong trợ lý viết mã.

Tính đến thời điểm công bố, Alibaba chưa đưa ra tuyên bố chính thức và không có thêm chi tiết nào về các lo ngại an ninh được cho là hoặc phạm vi của hạn chế được tiết lộ.

Claude phải đối mặt với một thất bại khác trong doanh nghiệp

Diễn biến mới nhất này đến chỉ vài tuần sau khi các mô hình Claude của Anthropic mất quyền truy cập vào một nhóm khách hàng doanh nghiệp lớn khác tại Hồng Kông. Vào tháng 6, Financial Times đưa tin rằng JPMorgan đã ngăn chặn nhân viên tại Hồng Kông chọn các mô hình Claude từ danh sách các mô hình ngôn ngữ lớn được phê duyệt của ngân hàng vì các điều khoản cấp phép của Anthropic quy định nơi các mô hình có thể được sử dụng.

Báo cáo cho biết Goldman Sachs trước đó đã đưa ra một hạn chế tương tự sau khi xác định rằng các điều khoản dịch vụ của Anthropic loại trừ việc sử dụng trên toàn bộ Đại Trung Hoa, bao gồm cả Hồng Kông. Anthropic sau đó nói với Financial Times rằng Claude chưa bao giờ được hỗ trợ chính thức tại Hồng Kông, trong khi JPMorgan từ chối bình luận.

Theo Financial Times, những hạn chế đó đã làm gia tăng lo ngại trong số một số tổ chức tài chính tại Hồng Kông khi các công cụ AI tiên tiến ngày càng được tích hợp sâu hơn vào quy trình phát triển phần mềm, nghiên cứu và dịch vụ tài chính.

Anthropic gần đây đã khôi phục các mô hình mới nhất của mình

Quyết định của Alibaba cũng diễn ra sau một vài tuần đầy biến động đối với các hệ thống AI mới nhất của Anthropic. Vào ngày 1 tháng 7, công ty đã khôi phục quyền truy cập công khai vào các mô hình Claude Fable 5 và Mythos 5 của mình sau khi chính quyền Hoa Kỳ dỡ bỏ các hạn chế xuất khẩu đã buộc Anthropic phải đình chỉ chúng vào tháng 6.

Anthropic cho biết họ đã tiếp tục triển khai sau các cuộc thảo luận mang tính xây dựng với các quan chức Hoa Kỳ và đã thêm các bộ phân loại mới được thiết kế để phát hiện và chặn nhiều tác vụ liên quan đến an ninh mạng hơn. Công ty cho biết các biện pháp bảo vệ bổ sung đã giải quyết được những lo ngại của chính phủ về khả năng lạm dụng thông qua các kỹ thuật jailbreak.

Trong khi bảo vệ công nghệ của mình, Anthropic lập luận rằng jailbreak được báo cáo liên quan đến một phương pháp hạn chế chứ không phải là một cách vượt qua phổ biến các biện pháp bảo vệ an toàn của các mô hình. Công ty cũng thông báo mở rộng hợp tác với chính phủ Hoa Kỳ về kiểm thử mô hình, đánh giá an toàn, theo dõi lạm dụng và chia sẻ thông tin liên quan đến rủi ro jailbreak.