Pesquisadores aprenderam a desacelerar modelos de IA com armadilhas lógicas - ForkLog

# Pesquisadores aprendem a retardar modelos de IA com armadilhas lógicas

Especialistas da Universidade de Zhejiang e da Alibaba apresentaram na ICML 2026 em Seul uma nova classe de ataques a sistemas de IA, escreve a IEEE Spectrum. O objetivo não é invadir o modelo ou acessar dados, mas fazê-lo processar solicitações por tanto tempo que se torne inútil.

Como funciona o novo método

Modelos de raciocínio — ao contrário dos LLMs comuns — dividem a tarefa em etapas sequenciais antes de responder. Eles são cada vez mais usados em sistemas que exigem análise complexa em múltiplas etapas.

Ao trabalhar com dados incompletos ou contraditórios, esses modelos tendem a pensar excessivamente — gerando cadeias de raciocínio muito longas. Isso aumenta o tempo de processamento de solicitações e o consumo de recursos computacionais. Em sistemas automáticos, isso abre um vetor para ataques DoS.

Os pesquisadores desenvolveram um método que provoca intencionalmente esse comportamento. Um algoritmo genético embaralha as condições das tarefas, remove premissas-chave e adiciona outras desnecessárias. Em seguida, ele seleciona variações que geram a resposta mais longa possível.

No benchmark MATH, a extensão do raciocínio aumentou em 26,1 vezes. O método superou as formas existentes de tal impacto. Os modelos vulneráveis foram DeepSeek-R1, Qwen3-Thinking, GPT-o3 e Gemini 2.5 Flash.

Os autores também descobriram que solicitações criadas para um modelo pequeno se mostraram eficazes contra outros sistemas, incluindo grandes projetos comerciais. Isso permite preparar ataques a serviços fechados com baixo custo.

«Nosso objetivo não é demonstrar que ataques em larga escala são possíveis com custo mínimo, mas registrar que essa superfície de ataque existe», escreveu um dos pesquisadores, Wei Cao, em carta à IEEE Spectrum.

Por que isso é importante

Modelos de raciocínio são cada vez mais usados em sistemas de IA agêntica, incluindo bots de trading, ferramentas de auditoria de contratos inteligentes e infraestrutura descentralizada.

Em DeFi, assistentes digitais baseados em IA gerenciam ativos reais sem intervenção humana. Uma falha na lógica — inclusive induzida intencionalmente — cria risco operacional.

O novo trabalho se baseia em uma característica já conhecida dos modelos de raciocínio — a tendência a pensar excessivamente. Em fevereiro de 2025, um grupo de pesquisadores analisou 4018 trajetórias de agentes e identificou padrões recorrentes de pensamento excessivo nos modelos:

• paralisia de análise — o modelo continua raciocinando em vez de executar a tarefa;
• ações imprevisíveis — após um erro, tenta executar várias ações simultaneamente;
• término prematuro — interrompe a execução da tarefa sem verificar o resultado.

Modelos de raciocínio se mostraram mais propensos ao pensamento excessivo. Quanto mais forte o efeito, menor o desempenho.

Lembramos que, no início de julho de 2026, analistas alertaram que o desenvolvimento adicional da OpenAI e Anthropic depende cada vez mais da disponibilidade de poder computacional, financiamento de data centers e decisões regulatórias.