研究人员学会了用逻辑陷阱减慢AI模型 - ForkLog

# 研究人员学会用逻辑陷阱减慢AI模型速度

浙江大学和阿里巴巴的专家在首尔举行的ICML 2026上展示了一类新的AI系统攻击方法，IEEE Spectrum报道。其目的不是破解模型或访问数据，而是让模型处理请求的时间变得非常长，使其变得无用。

新方法如何运作

推理模型——与普通LLM不同——会将任务分解为连续步骤再进行回答。它们越来越多地被用于需要复杂多步分析的系统中。

在处理不完整或矛盾数据时，这类模型倾向于过度思考——生成过长的推理链。这会增加请求处理时间和计算资源消耗。在自动系统中，这为DoS攻击提供了向量。

研究人员开发了一种有意诱使这种行为的方法。遗传算法打乱任务条件，删除关键前提并添加多余前提。然后它选择那些能引发最长回答的变体。

在MATH基准上，推理长度增加了26.1倍。该方法超越了现有的此类影响手段。易受攻击的模型包括DeepSeek-R1、Qwen3-Thinking、GPT-o3和Gemini 2.5 Flash。

作者还发现，为一个小模型创建的请求居然对其他系统（包括大型商业项目）也有效。这允许以较低成本准备对封闭服务的攻击。

“我们的目的不是证明大规模攻击可以以最低成本进行，而是记录这个攻击面确实存在，”研究人员之一韦曹在给IEEE Spectrum的信中写道。

为什么这很重要

推理模型越来越多地用于代理型AI系统，包括交易机器人、智能合约审计工具和去中心化基础设施。

在DeFi中，基于人工智能的数字助手在无人参与的情况下管理真实资金。逻辑上的故障——包括故意引起的——会创造操作风险。

新工作基于推理模型已知的特性——倾向于过度思考。2025年2月，一组研究人员分析了4018个代理轨迹，识别出模型中重复的过度思考模式：

• 分析瘫痪——模型继续推理而不执行任务；
• 不可预测的动作——出错后试图同时执行多个操作；
• 过早结束——未检查结果就停止执行任务。

推理模型更倾向于过度思考。效果越明显，结果效率越低。

提醒，2026年7月初，分析人士警告，OpenAI和Anthropic的进一步发展越来越依赖于计算能力的可用性、数据中心融资和监管决策。