Nhà nghiên cứu của Anthropic trình diễn: Sử dụng LLM để khai thác hàng loạt 500 lỗ hổng zero-day

Headline

Nhà nghiên cứu Anthropic trong buổi trình diễn [un]prompted 2026: LLM khai thác hàng loạt 500 lỗ hổng zero-day

Summary

Rohan Paul đã chia sẻ video bài phát biểu của Nicholas Carlini tại [un]prompted 2026, với tiêu đề “Black-hat LLMs”. Carlini là nhà nghiên cứu an ninh AI của Anthropic, ông đã trình diễn cách mà kẻ tấn công có thể sử dụng mô hình ngôn ngữ lớn để định vị và khai thác lỗ hổng phần mềm. Con số cốt lõi: 500 lỗ hổng zero-day được tạo ra tự động. Điều đáng chú ý hơn: khi khả năng của LLM trong nghiên cứu lỗ hổng gia tăng, mô hình mối đe dọa đang chuyển dịch - từ “cách tấn công mô hình AI” sang “AI bắt đầu tấn công các hệ thống khác sẽ ra sao”.

Analysis

Đây không phải là suy diễn trên giấy, mà là bằng chứng có thể tái hiện. Carlini đã ghi lại những thiếu sót thực sự mà LLM khai thác được mà các phương pháp kiểm thử mờ và phân tích tĩnh bỏ sót, bao gồm các vấn đề liên quan đến việc vượt qua xác thực. Ông liên tục nhấn mạnh hiệu quả trong blog của mình:

• LLM không nhất thiết tạo ra các loại tấn công hoàn toàn mới, nhưng sẽ giảm đáng kể chi phí và ngưỡng của các cuộc tấn công hiện có
• Lợi ích điển hình bao gồm: tạo ra các cuộc lừa đảo quy mô lớn, tự động hóa việc do thám mục tiêu, kết nối chuỗi khai thác có kịch bản
• Những khía cạnh này vốn yêu cầu vốn hoặc chuyên môn cao cấp, đã được mô hình “dân chủ hóa” và có thể mở rộng song song

Phản hồi từ cộng đồng (thảo luận tại hội nghị và các chuỗi trên Hacker News) cho thấy ngành công nghiệp đang nghiêm túc đối mặt với sự thay đổi này. Có một quan điểm phản biện hợp lý: Việc khai thác lỗ hổng hỗ trợ bởi AI có thể có lợi hơn cho bên phòng thủ, vì các doanh nghiệp có thể hệ thống hóa triển khai trong CI/CD và cơ sở tài sản, bao quát rộng hơn và phát hiện sớm hơn. Nhưng Carlini đã rõ ràng nói rằng kết quả vẫn không chắc chắn - cuối cùng là phòng thủ hay tấn công sẽ hưởng lợi nhiều hơn, hiện tại không ai có thể kết luận.

Vấn đề đáng lo ngại là về thời gian: nếu trong 6-12 tháng tới khả năng tiếp tục nâng cao, điều gì sẽ xảy ra? Công việc của Carlini cho thấy chúng ta còn cách “trần” một khoảng cách.

Tóm tắt ảnh hưởng tấn công và phòng thủ

Kết luận:

• LLM đang quy mô hóa và quy trình hóa “các cuộc tấn công có thể thực hiện được”, không phải tạo ra các mô hình mới từ hư không
• Trong thời gian ngắn, cuộc chơi tấn công và phòng thủ phụ thuộc vào ai nhanh hơn trong việc tích hợp mô hình vào quy trình sản xuất (dữ liệu, sức mạnh tính toán, khả năng đánh giá và vòng phản hồi)

Impact Assessment

• Tầm quan trọng: Cao
• Phạm vi: An toàn AI, Nghiên cứu AI, Thông tin kỹ thuật

Đánh giá: Chúng ta đang ở giai đoạn “sớm nhưng tăng tốc”. Những đội ngũ phòng thủ có khả năng kỹ thuật và quy trình, các nhà cung cấp an ninh, các doanh nghiệp lớn, và các quỹ có khả năng phân bổ tài chính và nguồn lực để ươm tạo chuỗi công cụ sẽ có lợi thế nhất. Những cá nhân trong đội đỏ sẽ được hưởng lợi, nhưng những người triển khai hệ thống hóa sẽ sớm nhận được lợi nhuận lớn hơn.