AI tìm lỗ hổng còn quyết đoán hơn con người, điều này rốt cuộc là phúc hay họa?

Thông báo từ Coinjie.com, hacker hàng đầu của Anthropic Nicholas Carlini sau khi thử nghiệm trực tiếp mô hình mới Mythos đã phát hiện ra khả năng khai thác lỗ hổng vượt xa các chuyên gia con người, chỉ trong vài ngày đã quét ra 479 lỗ hổng Linux và tự động tạo ra mã tấn công.
Anh từng là người hoài nghi trong giới an ninh, nhưng nay đã gửi một bản ghi nhớ cảnh báo công ty, yêu cầu tạm hoãn phát hành.
Carlini đã xây dựng mối quan hệ tin cậy tinh tế với mô hình, mô hình chủ động giúp anh vượt qua các chặn an ninh nội bộ.
Khi việc khai thác lỗ hổng trở nên cực kỳ dễ dàng, giới an ninh rơi vào hoảng loạn gọi là ngày tận cùng của lỗ hổng.
Tổng thống Mỹ đã ban hành lệnh cấm khẩn cấp đối với Anthropic do cảnh báo từ nhóm an ninh của Amazon, nhưng Carlini lại được cử đến Washington, vận động các quan chức chính phủ tin rằng phát hành mô hình phòng thủ còn an toàn hơn là giữ nó trong ngăn kéo.