Một lệnh cấm, ba cuộc gọi điện thoại, một câu chuyện mất kiểm soát: 24 giờ đen tối nhất của Anthropic

Vào ngày 13 tháng 6, hai mô hình tiên tiến nhất của Anthropic bị chính phủ Hoa Kỳ tạm dừng hoạt động.

Một là Fable 5, một là Mythos 5. Người thứ nhất vừa mới được công bố, người thứ hai hướng tới khách hàng an ninh mạng có hạn chế hơn. Lệnh cấm đến từ Bộ Thương mại Hoa Kỳ, áp dụng cho khách hàng ngoài Hoa Kỳ, cũng bao gồm cả công dân nước ngoài trong nội địa Hoa Kỳ. Lựa chọn cuối cùng của Anthropic rất đơn giản, là rút toàn bộ xuống.

Sau khi xem xét tất cả các chi tiết về vụ việc này, chúng tôi đã tổng hợp được dòng thời gian trong 24 giờ qua.

Vào ngày thứ Năm, 11 tháng 6, tức là hai ngày sau khi Fable 5 được công bố, Giám đốc điều hành Amazon Andy Jassy đã gửi cảnh báo tới Nhà Trắng. Ông lo ngại rằng các hàng rào an ninh của Fable 5 có thể bị vượt qua. Các nhà nghiên cứu của Amazon được cho là đã sử dụng một loạt các gợi ý để khiến Fable 5 cung cấp thông tin vốn bị hạn chế, có thể bị khai thác để tấn công mạng.

Đến sáng ngày 12 tháng 6, vấn đề đã được đưa vào cuộc họp cấp cao nhất của Nhà Trắng. Bộ trưởng Tài chính Scott Bessent, Giám đốc mạng của Nhà Trắng Sean Cairncross, Chánh văn phòng Nhà Trắng Susie Wiles cùng các quan chức cấp cao khác đã tham gia thảo luận. Bessent khi đó đang trên đường đi Houston, tham gia cuộc họp từ xa.

Sau đó là ba cuộc gọi điện thoại.

Khi Giám đốc điều hành Anthropic Dario Amodei tham gia cuộc gọi, đối diện ông là khoảng nửa tá quan chức cấp cao. Ngoài Bessent và Cairncross, còn có Bộ trưởng Thương mại Howard Lutnick. Các người tham gia khác gồm Phó Bộ trưởng Thương mại Jeffrey Kessler, Thư ký Nhà Trắng Will Scharf, Phó Chánh văn phòng Nhà Trắng Richard Walters, và Cố vấn chính sách của Tổng thống Walker Barrett.

Amodei cố gắng giải thích mọi chuyện như một hiểu lầm. Ông cho rằng, Amazon phát hiện ra các phương pháp vượt qua cụ thể, chứ không phải là các gợi ý chung có thể phá vỡ hàng rào an ninh một cách rộng rãi. Anthropic cũng đã công khai tuyên bố rằng, các tester vẫn chưa tìm ra cách nào để vượt qua hệ thống an toàn của mô hình một cách quy mô lớn.

Tuy nhiên, Nhà Trắng không bị thuyết phục.

Phát hiện của CEO Amazon đã được gửi đi đánh giá bởi Cơ quan An ninh Quốc gia Mỹ, và phía Nhà Trắng cho rằng đã có đủ bằng chứng. Chính phủ yêu cầu Anthropic tự nguyện rút mô hình xuống, và cùng chính phủ sửa các lỗ hổng. Amodei muốn có thêm thời gian và thông tin, nhưng không hứa sẽ rút mô hình. Bessent trực tiếp nói trong cuộc gọi rằng, ông đã đưa ra một “quyết định sai lầm”.

Sau đó, các biện pháp kiểm soát xuất khẩu được áp dụng.

Phía Anthropic đưa ra một câu chuyện khác. Họ nói rằng, Nhà Trắng chỉ yêu cầu rút mô hình trong vòng 90 phút, và không cung cấp chi tiết về mối đe dọa thực sự. Trong khi đó, phía Nhà Trắng khẳng định, kiểm soát xuất khẩu là biện pháp cuối cùng sau nhiều giờ yêu cầu hợp tác không thành công của Anthropic.

Một điểm then chốt khác của vụ việc là vị trí của Amazon trong chuyện này rất nhạy cảm.

Cuối năm 2024, Amazon đã đầu tư thêm 4 tỷ USD vào Anthropic, nâng tổng vốn đầu tư lên 8 tỷ USD. Đồng thời, Anthropic đã thiết lập AWS làm đối tác chính trong huấn luyện mô hình, trong tương lai các mô hình sẽ sử dụng chip của AWS để huấn luyện và triển khai. Claude cũng luôn là một trong những mô hình quan trọng nhất trên Amazon Bedrock.

Liên minh giữa Microsoft và OpenAI đã rõ ràng, việc Amazon đặt cược vào Anthropic ban đầu là một cách để tránh cạnh tranh trực tiếp.

Microsoft có OpenAI. Google có Gemini, cũng đầu tư vào Anthropic. Amazon không có một mô hình tiên tiến nội bộ đủ mạnh, chỉ có thể dựa vào sức mạnh tính toán của AWS, chip Trainium và nền tảng Bedrock, để gắn kết với các công ty mô hình bên ngoài.

Nhưng sau một năm rưỡi, Amazon và OpenAI cũng đã liên kết.

Năm nay, Amazon đã đàm phán đầu tư tối đa 50 tỷ USD vào OpenAI. Thời điểm đó, OpenAI đang tìm kiếm khoản vay mới lên tới 100 tỷ USD, có thể bao gồm việc mua chip AI của Amazon. Axios còn đề cập rằng, dự kiến doanh thu hàng năm của OpenAI vượt quá 20 tỷ USD vào năm 2025, nhưng cam kết chi tiêu lên tới 1,4 nghìn tỷ USD.

Amazon cần các công ty mô hình tiên tiến tiêu thụ sức mạnh tính toán của AWS, kiểm nghiệm chip nội bộ, lấp đầy các trung tâm dữ liệu, và cũng cần đưa các mô hình mạnh nhất vào danh mục đám mây doanh nghiệp của mình. Điều này đã vượt ra ngoài một khoản đầu tư tài chính đơn thuần.

Vì vậy, họ vừa đầu tư vào Anthropic, vừa gần gũi với OpenAI. Là nhà tài trợ mô hình, cũng là nhà cung cấp mô hình. Vừa giúp bán các mô hình, vừa giải thích cho chính phủ về mức độ nguy hiểm của các mô hình này.

Kết quả là, lần này Amazon đã đứng về phía đối lập với Anthropic. Trong mắt Anthropic, một đối tác cung cấp tiền, đám mây, chip, và kênh phân phối, đã gửi một tín hiệu an ninh đủ để kích hoạt lệnh cấm của chính phủ. Dĩ nhiên, cách nói của Amazon là “Nhà Trắng hỏi tôi, tôi chỉ trả lời các câu hỏi của họ”.

Trong hai năm qua, các công ty AI thích tự quảng bá mình như tài sản quốc gia. Khả năng càng mạnh, định giá càng cao, huy động vốn càng dễ, và chính phủ càng dễ mua sắm. Anthropic đặc biệt thành thạo trong câu chuyện này. Họ dùng ngôn ngữ an toàn cẩn trọng để phân biệt mình với OpenAI, và dùng “rủi ro tiên phong” để chứng minh với các cơ quan quản lý rằng mình xứng đáng được coi trọng.

Hiện tại, chính phủ Mỹ thực sự đã xem các mô hình như là tài sản an ninh quốc gia.

Sự bối rối của các quan chức Nhà Trắng cũng bắt nguồn từ đây. Politico đưa tin rằng, phía Nhà Trắng đã nghe thấy Amodei so sánh mức độ nguy hiểm của công nghệ Anthropic với bom hạt nhân. Khi ông từ chối rút mô hình vì một lỗ hổng an toàn đã biết, các quan chức chính phủ không xem đó là sự khác biệt về kỹ thuật, mà là vấn đề thái độ.

Đây không phải lần đầu hai bên xung đột. Ngày 3 tháng 3, Bộ Quốc phòng từng liệt Anthropic vào danh sách rủi ro chuỗi cung ứng, vì Anthropic từ chối cho phép công cụ AI của mình phục vụ giám sát quy mô lớn trong nước và vũ khí tự hành.

Anthropic và chính phủ Mỹ đã có những mâu thuẫn trước đó.

Và lần này, Anthropic cho rằng, chỉ thị của chính phủ không nêu rõ mối quan ngại về an ninh quốc gia cụ thể, và chỉ trích hành động này thiếu minh bạch, rõ ràng, và dựa trên các quy trình pháp lý dựa trên thực tế kỹ thuật. Anthropic cho rằng, vấn đề lần này giống như một phương pháp vượt qua phạm vi hạn chế, không đủ để hỗ trợ một lệnh cấm rộng rãi như vậy.

Nhưng theo góc nhìn của chính phủ, an ninh mô hình đã không còn là quy trình nội bộ của các công ty tự viết whitepaper, tự kiểm thử red team, tự phát hành hệ thống nữa. Ai có thể truy cập mô hình, ai có thể huấn luyện mô hình, nhân viên nước ngoài có thể xem trọng số của mô hình hay không, đều sẽ bị kéo vào ngôn ngữ kiểm soát xuất khẩu.

Vào tháng 4, khi Anthropic tuyên bố Mythos chỉ mở cho các công ty công nghệ và an ninh mạng hạn chế, họ đã có nhiều cuộc họp với Nhà Trắng. Trước khi Fable 5 ra mắt, cũng đã trải qua các cuộc xem xét của chính phủ Mỹ và Viện An toàn AI Vương quốc Anh. Phía Anthropic cho rằng, chính phủ không phản đối trước khi mô hình được phát hành.

Điều này khiến cho xung đột trở nên khó xử hơn.

Trước khi mô hình ra mắt, là hợp tác an ninh. Sau khi ra mắt, là vấn đề an ninh quốc gia.

Trong khi đó, OpenAI đứng ngoài quan sát vụ việc này.

Anthropic buộc phải rút các mô hình mạnh nhất, vị trí của OpenAI trở nên dễ chịu hơn. Khi các vấn đề về quản lý ngày càng ràng buộc Anthropic, OpenAI càng dễ trở thành lựa chọn “có thể hợp tác”. Nếu Amazon thực sự tiếp cận gần hơn với OpenAI, cũng sẽ có thêm một lớp phòng vệ.

Dĩ nhiên, không có bằng chứng công khai nào cho thấy Amazon nhằm giúp OpenAI chống lại Anthropic.

Thực tế rõ ràng hơn là, các mô hình tiên tiến đang bước vào chu kỳ chi tiêu vốn nghìn tỷ đô la, các mối quan hệ hợp tác đã không còn trong sáng. Các nhà cung cấp dịch vụ đám mây đầu tư vào các công ty mô hình, các công ty mô hình mua sức mạnh tính toán của đám mây, chính phủ hỏi về rủi ro an ninh, đối thủ cạnh tranh trong cùng một lĩnh vực quản lý.

Nhà tài trợ, nhà cung cấp, nhà phân phối, người kiểm duyệt, bắt đầu do cùng một nhóm công ty đảm nhiệm.

Điều này còn quan trọng hơn một phương pháp vượt rào nào đó.

Tối hôm đó, khi Fable 5 và Mythos 5 bị tắt đi, Anthropic không chỉ mất quyền truy cập vào hai mô hình. Họ còn mất đi một phần kiểm soát câu chuyện của chính mình.

Amazon vẫn còn giữ quyền kiểm soát trên bảng điều khiển AWS. Các cuộc đàm phán tài trợ của OpenAI vẫn chưa kết thúc. Chính phủ Mỹ đã ngồi vào hàng ghế đầu của buổi ra mắt mô hình.