Des chercheurs ont appris à ralentir les modèles d'IA avec des pièges logiques - ForkLog

# Des chercheurs parviennent à ralentir les modèles d'IA avec des pièges logiques

Des spécialistes de l'Université du Zhejiang et d'Alibaba ont présenté à l'ICML 2026 à Séoul une nouvelle classe d'attaques contre les systèmes d'IA, rapporte IEEE Spectrum. Leur objectif n'est pas de pirater le modèle ni d'accéder aux données, mais de le forcer à traiter les requêtes si longtemps qu'il en devienne inutile.

Comment fonctionne la nouvelle méthode

Les modèles de raisonnement – contrairement aux LLM classiques – décomposent une tâche en étapes séquentielles avant de répondre. Ils sont de plus en plus utilisés dans des systèmes nécessitant une analyse complexe en plusieurs étapes.

Face à des données incomplètes ou contradictoires, ces modèles ont tendance à trop réfléchir – en générant des chaînes de raisonnement excessivement longues. Cela augmente le temps de traitement des requêtes et la consommation de ressources de calcul. Dans les systèmes automatiques, cela ouvre un vecteur d'attaque DoS.

Les chercheurs ont développé une méthode qui provoque délibérément ce comportement. Un algorithme génétique mélange les conditions des tâches, supprime des prémisses clés et en ajoute d'autres superflues. Il sélectionne ensuite les variantes qui génèrent la réponse la plus longue possible.

Sur le benchmark MATH, la longueur des raisonnements a été multipliée par 26,1. La méthode a surpassé les techniques existantes de ce type d'impact. DeepSeek-R1, Qwen3-Thinking, GPT-o3 et Gemini 2.5 Flash se sont révélés vulnérables.

Les auteurs ont également découvert que les requêtes créées pour un petit modèle se sont avérées efficaces contre d'autres systèmes, y compris de grands projets commerciaux. Cela permet de préparer des attaques contre des services fermés à moindre coût.

« Notre objectif n'est pas de démontrer que des attaques à grande échelle sont possibles avec un minimum de ressources, mais de constater que cette surface d'attaque existe », a écrit l'un des chercheurs, Wei Cao, dans une lettre à IEEE Spectrum.

Pourquoi c'est important

Les modèles de raisonnement sont de plus en plus utilisés dans les systèmes d'IA agentiques, notamment les bots de trading, les outils d'audit de smart contracts et l'infrastructure décentralisée.

Dans la DeFi, les assistants numériques basés sur l'IA gèrent des fonds réels sans intervention humaine. Une défaillance logique – y compris provoquée intentionnellement – crée un risque opérationnel.

Ce nouveau travail s'appuie sur une caractéristique déjà connue des modèles de raisonnement : la tendance à trop réfléchir. En février 2025, un groupe de chercheurs a analysé 4 018 trajectoires agentiques et a identifié des schémas récurrents de réflexion excessive chez les modèles :

• paralysie de l'analyse – le modèle continue de raisonner au lieu d'exécuter la tâche ;
• actions imprévisibles – après une erreur, il tente d'exécuter plusieurs actions simultanément ;
• achèvement prématuré – il arrête la tâche sans vérifier le résultat.

Les modèles de raisonnement se sont avérés plus enclins à la réflexion excessive. Plus l'effet est marqué, plus la performance est faible.

Rappelons que début juillet 2026, des analystes ont averti que le développement futur d'OpenAI et d'Anthropic dépend de plus en plus de la disponibilité de la puissance de calcul, du financement des centres de données et des décisions réglementaires.