Anthropic tiết lộ mô hình an ninh mạng Mythos vài tuần sau khi rò rỉ mã Claude phơi bày lỗ hổng bảo mật

Anthropic hôm thứ Ba đã công bố Claude Mythos Preview, một mô hình AI mới được xây dựng cho các công việc an ninh mạng, đồng thời ra mắt Project Glasswing, một chương trình đối tác cung cấp cho một nhóm nhỏ các tổ chức công nghệ và hạ tầng lớn quyền truy cập sớm vào hệ thống để thực hiện các nhiệm vụ bảo mật mang tính phòng thủ.

Anthropic cho biết mô hình chưa được phát hành này đã phát hiện ra hàng nghìn lỗ hổng mức độ nghiêm trọng cao trên các hệ điều hành lớn và các trình duyệt web, đồng thời mô tả nỗ lực này là một bước đẩy khẩn cấp nhằm trao cho lực lượng phòng thủ các năng lực mạng tiên tiến trước khi kẻ tấn công có được các công cụ tương tự.

Project Glasswing bao gồm AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia và Palo Alto Networks, cùng với hơn 100Mổ chức bổ sung khác cũng nhận được quyền truy cập. Anthropic cho biết hãng cam kết lên tới $100 triệu giá trị tín dụng sử dụng và $4 triệu tiền quyên góp cho các nhóm bảo mật nguồn mở như một phần của chương trình.

Anthropic cho biết mô hình có thể xác định lỗ hổng và phát triển các khai thác liên quan với ít hoặc không cần con người hướng dẫn, đồng thời nêu bật các ví dụ bao gồm một lỗ hổng OpenBSD của người dùng 27 tuổi, một lỗi FFmpeg của người dùng 16 tuổi và các lỗ hổng chuỗi trong nhân Linux có thể nâng quyền truy cập thông thường của người dùng lên toàn quyền kiểm soát máy. Thông báo của Anthropic cho biết các lỗi liên quan đã được vá.

Bản ra mắt Mythos diễn ra chỉ chưa đầy một tuần sau khi Anthropic tự tạo ra một “mớ rắc rối” an ninh vì vô tình để lộ các tệp mã nguồn của Claude thông qua một lỗi đóng gói ở phiên bản 2.1.88 phần mềm của hãng. Sai sót này đã làm lộ gần 4Mệp và hơn 500.000 dòng mã, sau đó còn lan rộng hơn khi nỗ lực gỡ bỏ của Anthropic vô tình nhắm trúng khoảng 8.100 kho lưu trữ GitHub trước khi công ty hoàn lại phần lớn các thông báo.

Hiện tại, Anthropic đang giới thiệu Mythos như một mô hình đủ mạnh và có khả năng nguy hiểm đến mức sẽ không được phát hành rộng rãi trong thời gian này. Trong các tài liệu của Project Glasswing, công ty cho biết hãng không có kế hoạch làm Mythos Preview sẵn sàng sử dụng rộng rãi và thay vào đó muốn phát triển các biện pháp an toàn trước, để các mô hình thuộc lớp Mythos cuối cùng có thể được triển khai an toàn hơn ở quy mô lớn.

Một tài liệu nội bộ bị rò rỉ mô tả Mythos là mô hình có năng lực cao nhất của công ty cho đến nay và là một bước thay đổi đáng kể về khả năng suy luận, lập trình và an ninh mạng. Anthropic cũng đã thảo luận về các hàm ý tấn công và phòng thủ trong an ninh mạng của mô hình với các quan chức chính phủ Mỹ.

                    **Công bố:** Bài viết này đã được biên tập bởi Estefano Gomez. Để biết thêm thông tin về cách chúng tôi tạo và rà soát nội dung, hãy xem Chính sách Biên tập của chúng tôi.