Các nhà nghiên cứu đã học cách làm chậm các mô hình AI bằng bẫy logic - ForkLog

# Các nhà nghiên cứu đã học cách làm chậm mô hình AI bằng bẫy logic

Các chuyên gia từ Đại học Chiết Giang và Alibaba đã trình bày một lớp tấn công mới vào các hệ thống AI tại ICML 2026 ở Seoul, theo IEEE Spectrum. Mục tiêu của họ không phải là xâm nhập mô hình hay truy cập dữ liệu, mà là khiến nó xử lý yêu cầu lâu đến mức trở nên vô dụng.

Cách thức hoạt động của phương pháp mới

Các mô hình lý luận – không giống như LLM thông thường – chia nhỏ nhiệm vụ thành các bước tuần tự trước khi trả lời. Chúng ngày càng được sử dụng trong các hệ thống yêu cầu phân tích phức tạp nhiều bước.

Khi làm việc với dữ liệu không đầy đủ hoặc mâu thuẫn, các mô hình như vậy có xu hướng suy nghĩ quá mức – tạo ra các chuỗi lý luận quá dài. Điều này làm tăng thời gian xử lý yêu cầu và tiêu tốn tài nguyên tính toán. Trong các hệ thống tự động, điều này mở ra một vector cho các cuộc tấn công DoS.

Các nhà nghiên cứu đã phát triển một phương pháp cố tình kích thích hành vi đó. Một thuật toán di truyền xáo trộn các điều kiện của nhiệm vụ, loại bỏ các tiền đề chính và thêm các tiền đề thừa. Sau đó, nó chọn ra các biến thể gây ra phản hồi dài nhất.

Trên benchmark MATH, độ dài lý luận đã tăng lên 26,1 lần. Phương pháp này vượt trội so với các cách tác động hiện có. DeepSeek-R1, Qwen3-Thinking, GPT-o3 và Gemini 2.5 Flash tỏ ra dễ bị tổn thương.

Các tác giả cũng phát hiện ra rằng các yêu cầu được tạo cho một mô hình nhỏ hóa ra lại hiệu quả đối với các hệ thống khác, bao gồm cả các dự án thương mại lớn. Điều này cho phép chuẩn bị các cuộc tấn công vào các dịch vụ đóng mà không tốn kém nhiều.

"Mục tiêu của chúng tôi không phải là chứng minh rằng các cuộc tấn công quy mô lớn có thể thực hiện với chi phí tối thiểu, mà là ghi nhận rằng bề mặt tấn công này tồn tại", một trong các nhà nghiên cứu, Wei Cao, đã viết trong thư gửi IEEE Spectrum.

Tại sao điều này quan trọng

Các mô hình lý luận ngày càng được sử dụng trong các hệ thống AI tác nhân, bao gồm bot giao dịch, công cụ kiểm toán smart contract và cơ sở hạ tầng phi tập trung.

Trong DeFi, các trợ lý kỹ thuật số dựa trên trí tuệ nhân tạo quản lý tài sản thực mà không cần con người tham gia. Lỗi logic – bao gồm cả lỗi do cố tình gây ra – tạo ra rủi ro vận hành.

Nghiên cứu mới dựa trên một đặc điểm đã biết của các mô hình lý luận – xu hướng suy nghĩ quá mức. Vào tháng 2 năm 2025, một nhóm nhà nghiên cứu đã phân tích 4.018 quỹ đạo tác nhân và xác định các mẫu suy nghĩ quá mức lặp đi lặp lại ở các mô hình:

• Tê liệt phân tích – mô hình tiếp tục suy luận thay vì thực hiện nhiệm vụ;
• Hành động không thể đoán trước – sau khi mắc lỗi, cố gắng thực hiện nhiều hành động cùng lúc;
• Kết thúc sớm – ngừng thực hiện nhiệm vụ mà không kiểm tra kết quả.

Các mô hình lý luận tỏ ra dễ bị suy nghĩ quá mức hơn. Hiệu ứng càng mạnh thì hiệu quả càng thấp.

Nhắc lại, vào đầu tháng 7 năm 2026, các nhà phân tích đã cảnh báo rằng sự phát triển tiếp theo của OpenAI và Anthropic ngày càng phụ thuộc vào khả năng tiếp cận sức mạnh tính toán, tài trợ cho trung tâm dữ liệu và các quyết định quản lý.