Một hacker cộng với Mythos bằng một đội đặc nhiệm: Bloomberg tiết lộ bí mật quyết định chặn của Anthropic

Tin ME News, ngày 16 tháng 4 (UTC+8), qua các cuộc phỏng vấn có tên với các nhà nghiên cứu đỏ, giám đốc điều hành và quan chức chính phủ Mỹ, đã tái hiện toàn bộ quá trình quyết định từ phát hiện đến phong tỏa. Nhà nghiên cứu an toàn AI Nicholas Carlini đã mở laptop thử nghiệm Mythos mới mở trong kỳ nghỉ cưới ở Bali vào tháng 2, chỉ trong vài giờ đã phát hiện ra nhiều đường dẫn xâm nhập, mục tiêu liên quan đến hạ tầng rộng rãi trên toàn cầu. Sau khi trở về San Francisco, ông phát hiện Mythos có thể tự tạo ra công cụ xâm nhập dành cho Linux. Trưởng nhóm đỏ tiên phong Logan Graham nói: «Trong vài giờ sau khi có mô hình, chúng tôi đã biết nó khác biệt.» Điểm khác biệt chính là, thế hệ flagship trước đó Opus 4.6 có thể hỗ trợ con người khai thác lỗ hổng, còn Mythos có thể tự hoàn thành toàn bộ quá trình khai thác. Graham cảnh báo ban quản lý: đây là rủi ro an ninh quốc gia. Đồng sáng lập kiêm Giám đốc Khoa học Jared Kaplan nói rằng ông đã «rất cẩn thận» theo dõi Mythos trong giai đoạn huấn luyện, từ tháng 1 đã nhận thức rõ khả năng phát hiện lỗ hổng của mô hình này mạnh đến mức nào, cần xác định xem những khả năng này chỉ là điều mới mẻ về công nghệ hay là «liên quan mật thiết đến hạ tầng internet», cuối cùng kết luận là sau cùng. Từ cuối tháng 2 đến đầu tháng 3, ông cùng đồng sáng lập Sam McCandlish đã báo cáo với ban quản lý gồm CEO Dario Amodei, Chủ tịch Daniela Amodei, đề xuất không công khai phát hành nhưng cho phép các công ty bên ngoài thậm chí đối thủ cạnh tranh thử nghiệm. Tuần đầu tháng 3, công ty chính thức phê duyệt Mythos là công cụ phòng thủ mạng. Báo cáo cũng tiết lộ các chi tiết thử nghiệm mới. Trong một lần thử nghiệm phiên bản sớm, mô hình tự thiết kế kế hoạch tấn công nhiều bước, vượt qua giới hạn môi trường chạy để lấy quyền truy cập internet, rồi bắt đầu phát nội dung trên mạng. Trong các thử nghiệm có hướng dẫn, Mythos đã viết một chuỗi tấn công trình duyệt liên kết bốn lỗ hổng, điều này cực kỳ khó đối với hacker con người. JPMorgan Chase đã sử dụng mô hình lớn để hỗ trợ tìm lỗ hổng phần mềm của chính mình trước khi Mythos công khai, tập trung quét chuỗi cung ứng và các thành phần mã nguồn mở. Theo nguồn tin thân cận, các phát hiện lỗ hổng zero-day và viết mã khai thác, trước đây mất từ vài ngày đến vài tuần, nay nhanh nhất chỉ vài phút. CEO Jamie Dimon nói trong cuộc họp báo tài chính rằng Mythos «cho thấy còn nhiều lỗ hổng cần sửa». Giám đốc An ninh và Tin cậy của Cisco Anthony Grieco lo ngại rằng kẻ tấn công có thể lợi dụng AI để tấn công các thiết bị mạng cuối đã ngừng bảo trì, vì những thiết bị này sẽ không còn nhận các bản vá bảo mật nữa. Một người am hiểu về đánh giá quốc phòng Mỹ cho biết, cho phép một hacker đơn lẻ sử dụng Mythos hoặc công cụ tương tự tương đương nâng cấp một lính thường thành đặc nhiệm; các tổ chức hacker tội phạm có thể đạt đến trình độ của các cơ quan tình báo nhỏ, các quốc gia nhỏ hơn có thể có khả năng tấn công mạng cấp quốc gia. Cựu giám đốc an ninh mạng NSA Rob Joyce nói: «Tôi tin rằng AI cuối cùng sẽ giúp chúng ta an toàn hơn, nhưng từ bây giờ đến ngày đó sẽ có một giai đoạn tối tăm, kẻ tấn công chiếm ưu thế tuyệt đối, các tổ chức chưa chuẩn bị tốt sẽ bị xâm phạm.» (Nguồn: BlockBeats)