研究人員學會了用邏輯陷阱減慢 AI 模型 - ForkLog

# 研究人員學會用邏輯陷阱減慢 AI 模型速度

來自浙江大學和阿里的專家在首爾的 ICML 2026 上展示了一種針對 AI 系統的新型攻擊，IEEE Spectrum 報導。他們的目標不是破解模型或存取資料，而是讓它處理請求的時間長到變得毫無用處。

新方法如何運作

推理模型與一般 LLM 不同，它們在回答前會將任務分解為連續步驟。它們越來越常用於需要複雜多步驟分析的系統中。

在處理不完整或矛盾的資料時，此類模型容易過度思考——生成過長的推理鏈。這會增加請求處理時間和運算資源消耗。在自動化系統中，這開啟了 DoS 攻擊的向量。

研究人員開發了一種故意引發這種行為的方法。遺傳演算法會打亂任務條件、刪除關鍵前提並添加多餘條件。然後它會挑選出能引發最長回答的變體。

在 MATH 基準測試中，推理長度增加了 26.1 倍。該方法超越了現有的此類影響方式。DeepSeek-R1、Qwen3-Thinking、GPT-o3 和 Gemini 2.5 Flash 被發現存在漏洞。

作者還發現，為一個小型模型創建的請求對其他系統（包括大型商業項目）也同樣有效。這使得無需大量成本即可針對封閉服務發動攻擊。

「我們的目標不是證明大規模攻擊可以以最低成本實現，而是記錄這個攻擊面確實存在」，研究人員之一曹偉在給 IEEE Spectrum 的信中寫道。

為什麼這很重要

推理模型越來越常用於代理型 AI 系統，包括交易機器人、智能合約審計工具和去中心化基礎設施。

在 DeFi 中，基於 AI 的數位助手在無人干預下管理真實資金。邏輯故障（包括故意引發的）會造成營運風險。

這項新工作依賴於推理模型已知的一個特點——容易過度思考。2025 年 2 月，一組研究人員分析了 4018 條代理軌跡，並指出了模型中反覆出現的過度思考模式：

• 分析癱瘓——模型繼續推理而不執行任務；
• 不可預測的行動——出錯後嘗試同時執行多個動作；
• 過早結束——未檢查結果即終止任務。

推理模型被發現更容易過度思考。效果越明顯，效能越低。

提醒一下，2026 年 7 月初，分析師警告說，OpenAI 和 Anthropic 的進一步發展越來越依賴於運算能力的可用性、數據中心的融資以及監管決策。