Investigadores aprenderam a retardar modelos de IA com armadilhas lógicas - ForkLog

# Investigadores aprenderam a retardar modelos de IA com armadilhas lógicas

Especialistas da Universidade de Zhejiang e da Alibaba apresentaram na ICML 2026 em Seul uma nova classe de ataques a sistemas de IA, escreve a IEEE Spectrum. O seu objetivo não é invadir o modelo nem obter acesso aos dados, mas sim fazê-lo processar pedidos durante tanto tempo que se torne inútil.

Como funciona o novo método

Os modelos de raciocínio — ao contrário dos LLM comuns — dividem a tarefa em passos sequenciais antes de responder. São cada vez mais utilizados em sistemas que exigem uma análise complexa em várias etapas.

Ao trabalhar com dados incompletos ou contraditórios, esses modelos tendem a pensar em excesso — gerando cadeias de raciocínio demasiado longas. Isso aumenta o tempo de processamento dos pedidos e o consumo de recursos computacionais. Em sistemas automáticos, isto abre um vetor para ataques DoS.

Os investigadores desenvolveram um método que provoca intencionalmente esse comportamento. Um algoritmo genético mistura as condições das tarefas, remove premissas-chave e adiciona premissas supérfluas. Em seguida, seleciona as variantes que provocam a resposta mais longa.

No benchmark MATH, a extensão do raciocínio aumentou 26,1 vezes. O método superou as formas existentes de tal impacto. Revelaram-se vulneráveis o DeepSeek-R1, Qwen3-Thinking, GPT-o3 e Gemini 2.5 Flash.

Os autores também descobriram que os pedidos criados para um pequeno modelo se revelaram eficazes contra outros sistemas, incluindo grandes projetos comerciais. Isto permite preparar ataques a serviços fechados sem grandes custos.

«O nosso objetivo não é demonstrar que ataques em grande escala são possíveis com custos mínimos, mas sim registar que esta superfície de ataque existe», escreveu um dos investigadores, Wei Cao, numa carta à IEEE Spectrum.

Por que isto é importante

Os modelos de raciocínio são cada vez mais utilizados em sistemas de IA agentivos, incluindo bots de negociação, ferramentas de auditoria de contratos inteligentes e infraestrutura descentralizada.

Na DeFi, assistentes digitais baseados em inteligência artificial gerem fundos reais sem intervenção humana. Uma falha na lógica — incluindo a causada intencionalmente — cria risco operacional.

O novo trabalho baseia-se numa característica já conhecida dos modelos de raciocínio — a tendência para pensar em excesso. Em fevereiro de 2025, um grupo de investigadores analisou 4018 trajetórias de agentes e identificou padrões recorrentes de excesso de pensamento nos modelos:

• paralisia de análise — o modelo continua a raciocinar em vez de executar a tarefa;
• ações imprevisíveis — após um erro, tenta executar várias ações simultaneamente;
• conclusão prematura — interrompe a execução da tarefa sem verificar o resultado.

Os modelos de raciocínio revelaram-se mais propensos ao excesso de pensamento. Quanto mais forte o efeito, menor a eficácia.

Recorde-se que, no início de julho de 2026, analistas alertaram que o desenvolvimento futuro da OpenAI e da Anthropic depende cada vez mais da disponibilidade de capacidade computacional, financiamento de centros de dados e decisões regulatórias.