Các hacker đã sử dụng AI để xây dựng một lỗ hổng Zero-Day vượt qua xác thực hai yếu tố: Google

###Tóm tắt ngắn gọn

• Nhóm Tình báo Mối đe dọa của Google xác nhận rằng tội phạm mạng đã sử dụng AI để phát triển một khai thác zero-day nhắm vào một công cụ quản trị web mã nguồn mở phổ biến.
• Google cho biết đây là lần đầu tiên công ty xác định được việc phát triển zero-day có hỗ trợ AI trong tự nhiên.
• Google đã hợp tác với nhà cung cấp bị ảnh hưởng để vá lỗ hổng trước khi chiến dịch mở rộng, nhưng nói rằng các tác nhân đe dọa liên kết với Trung Quốc và Bắc Triều Tiên cũng đang tích cực sử dụng AI để nghiên cứu lỗ hổng và phát triển khai thác.

Tội phạm mạng đã sử dụng một mô hình AI để phát hiện và biến vũ khí một lỗ hổng zero-day trong một công cụ quản trị web mã nguồn mở phổ biến, theo Nhóm Tình báo Mối đe dọa của Google. Trong một báo cáo được công bố vào thứ Hai, Google cho biết lỗ hổng này cho phép kẻ tấn công vượt qua xác thực hai yếu tố, và cảnh báo rằng các kẻ tấn công đang chuẩn bị một chiến dịch khai thác hàng loạt trước khi công ty can thiệp. Đây là lần đầu tiên Google xác nhận việc phát triển zero-day có hỗ trợ AI trong tự nhiên. “Khi khả năng lập trình của các mô hình AI tiến bộ, chúng tôi tiếp tục quan sát các đối thủ ngày càng tận dụng các công cụ này như những nhân tố tăng cường đẳng cấp chuyên gia cho nghiên cứu lỗ hổng và phát triển khai thác, bao gồm cả các lỗ hổng zero-day,” Google viết. “Trong khi các công cụ này thúc đẩy nghiên cứu phòng thủ, chúng cũng hạ thấp rào cản để các đối thủ phân tích ngược các ứng dụng và phát triển các khai thác tinh vi do AI tạo ra.”

Báo cáo này xuất hiện khi các nhà nghiên cứu và chính phủ cảnh báo rằng các mô hình AI đang thúc đẩy các cuộc tấn công mạng bằng cách giúp hacker tìm lỗ hổng, tạo malware, và tự động hóa phát triển khai thác. “Mặc dù các LLM tiên phong gặp khó khăn trong việc điều hướng logic phân quyền phức tạp của doanh nghiệp, chúng có khả năng ngày càng tăng trong việc thực hiện lý luận ngữ cảnh, hiệu quả đọc ý định của nhà phát triển để liên kết logic thực thi 2FA với các mâu thuẫn của các ngoại lệ mã cứng,” báo cáo nói. “Khả năng này có thể cho phép các mô hình phát hiện ra các lỗi logic tiềm ẩn mà dường như đúng chức năng đối với các trình quét truyền thống nhưng lại bị phá vỡ chiến lược từ góc độ an ninh.”  Theo Google, các kẻ tấn công không rõ danh tính đã sử dụng AI để xác định một lỗi logic nơi phần mềm tin tưởng vào một điều kiện cho phép bỏ qua các biện pháp xác thực hai yếu tố. Khác với các trình quét truyền thống tìm kiếm mã bị lỗi hoặc treo, AI phân tích cách phần mềm dự định hoạt động và phát hiện mâu thuẫn, cho phép kẻ tấn công vượt qua kiểm tra bảo mật mà không làm hỏng mã hóa.

“Lập trình dựa trên AI đã thúc đẩy nhanh quá trình phát triển các bộ hạ tầng và malware đa hình bởi các đối thủ,” Google viết. “Các chu trình phát triển này hỗ trợ tránh né phòng thủ bằng cách tạo ra các mạng che giấu và tích hợp logic giả mạo do AI tạo trong malware mà chúng tôi đã liên kết với các tác nhân đe dọa có liên hệ với Nga.” Báo cáo cho biết các tác nhân đe dọa từ Trung Quốc và Bắc Triều Tiên đang sử dụng AI để tìm lỗ hổng phần mềm, trong khi các nhóm Nga đang dùng nó để che giấu malware của họ. “Các tác nhân này đã tận dụng các phương pháp tinh vi trong việc phát hiện và khai thác lỗ hổng dựa trên AI, bắt đầu từ các nỗ lực jailbreak dựa trên nhân vật và tích hợp các bộ dữ liệu bảo mật đặc biệt, độ chính xác cao để nâng cao quy trình phát hiện và khai thác lỗ hổng của họ,” Google viết. Trong khi báo cáo của Google nhằm cảnh báo về rủi ro ngày càng tăng của các cuộc tấn công mạng dựa trên AI, một số nhà nghiên cứu cho rằng nỗi sợ này bị phóng đại. Một nghiên cứu riêng do Đại học Cambridge dẫn đầu với hơn 90.000 chủ đề trên diễn đàn tội phạm mạng cho thấy phần lớn tội phạm sử dụng AI cho spam và lừa đảo qua email hơn là viết mã tinh vi cho các cuộc tấn công mạng. “Vai trò của các LLM bị jailbreak (Dark AI) như các giảng viên cũng bị thổi phồng, do sự nổi bật của văn hóa phụ và học hỏi xã hội trong quá trình khởi đầu - người dùng mới đánh giá cao các kết nối xã hội và danh tính cộng đồng liên quan đến việc học hacking và tội phạm mạng cũng như kiến thức,” nghiên cứu nói. “Kết quả ban đầu của chúng tôi, do đó, gợi ý rằng việc than phiền về sự trỗi dậy của Vibercriminal có thể đang phóng đại mức độ gián đoạn đến nay.” Tuy nhiên, bất chấp các phát hiện của Cambridge, báo cáo của Nhóm Tình báo Mối đe dọa cũng xuất hiện trong bối cảnh Google đã đối mặt với các mối quan ngại về bảo mật liên quan đến các công cụ hỗ trợ AI. Vào tháng Tư, công ty đã vá lỗi tiêm lệnh trong nền tảng lập trình AI Antigravity của mình, mà các nhà nghiên cứu cho rằng có thể cho phép kẻ tấn công thực thi lệnh trên máy của nhà phát triển thông qua các lệnh bị thao túng. “Mặc dù chúng tôi không tin Gemini đã được sử dụng, dựa trên cấu trúc và nội dung của các khai thác này, chúng tôi có độ tin cậy cao rằng tác nhân có khả năng đã tận dụng một mô hình AI để hỗ trợ việc phát hiện và biến vũ khí lỗ hổng này,” các nhà nghiên cứu của Google viết. Đầu năm nay, Anthropic đã hạn chế truy cập vào mô hình Claude Mythos sau khi các thử nghiệm cho thấy nó có thể xác định hàng nghìn lỗ hổng phần mềm chưa từng biết trước đó. Các phát hiện này cũng gia tăng mối lo ngại rằng các mô hình AI đang định hình lại an ninh mạng bằng cách giúp cả phòng thủ và tấn công tìm lỗ hổng nhanh hơn.

“Khi các khả năng này đến tay nhiều nhà phòng thủ hơn, nhiều nhóm khác cũng đang trải qua cảm giác chóng mặt giống như chúng tôi khi các phát hiện lần đầu được làm rõ,” Mozilla viết trong một bài đăng trên blog vào tháng Tư. “Đối với một mục tiêu cứng, chỉ một lỗi như vậy đã đủ để báo động đỏ vào năm 2025, và nhiều lỗi cùng lúc khiến bạn phải dừng lại để tự hỏi liệu có thể theo kịp hay không.”