Claude Fable 5 a été « intercepté » : il devient furtivement plus stupide lors de recherches en IA, Anthropic est attaqué par la communauté de la recherche

Titre original : « Lors de ses recherches en IA, Claude devient secrètement plus bête, Anthropic est attaqué par la communauté de la recherche »
Source originale : Machine Heart

Claude Fable 5 est aujourd'hui le sujet central dans le domaine de l'IA, ce modèle « mythique » affiche des performances exceptionnelles, attirant de nombreux regards.

Andrej Karpathy le qualifie de « très excitant », une « avancée en saut quantifiable digne d'une grande mise à jour », comparable à l'amélioration apportée par Claude 4.5 en novembre dernier. Sur le benchmark de programmation SWE-bench Pro, Fable 5 a obtenu un score de 80,3 %, dépassant Opus 4.8 de 11 points entiers.

Dans une base de code Ruby comptant 50 millions de lignes, il a effectué une migration complète en une journée, alors que pour une équipe humaine, cela aurait pris plus de deux mois pour le même volume de travail.

Pour plus de détails, consultez notre article de ce matin : « Juste publié, le modèle le plus puissant Claude Fable 5 : performance explosive, prix doublé ».

Cependant, en ouvrant X et autres plateformes sociales, nous voyons que Claude Fable 5 suscite déjà une vague de critiques dans la communauté de la recherche en IA.

La raison est simple : si l’on utilise Claude Fable 5 pour développer de l’IA, il devient moins intelligent.

Comme indiqué clairement dans sa fiche système :

Nous avons également renforcé les mesures de sécurité pour le développement de LLM de pointe. Comme discuté dans la section 6.1 du « Rapport sur les risques » de février 2026, nous craignons que l’accélération globale du développement de l’IA n’entraîne des risques, même si la gravité de ces risques reste incertaine.

Plus précisément, comme nous l’avons souligné à l’époque, nous craignons que « l’accélération par d’autres développeurs d’IA de la construction de systèmes puissants, qui pourraient présenter des risques similaires aux nôtres, mais sans mesures de sécurité adéquates ».

Étant donné la capacité récente des modèles à accélérer leur propre développement, nous avons mis en place de nouvelles interventions pour limiter l’efficacité de Claude lorsqu’il traite des demandes impliquant le développement de LLM de pointe (par exemple, dans la construction de processus de pré-entraînement, d’infrastructures d’entraînement distribuées ou de concepteurs d’accélérateurs d’apprentissage automatique).

Utiliser Claude pour développer des modèles concurrents viole nos conditions d’utilisation, mais en renforçant ces mesures de sécurité, nous évitons d’accélérer les actions qui seraient les plus susceptibles de violer ces règles.

Contrairement à nos interventions en cybersécurité, en biologie, en chimie ou lors de tentatives de distillation, ces mesures restent invisibles pour l’utilisateur. Fable 5 ne reviendra pas à d’autres modèles. Au contraire, ces mesures limiteront son efficacité via des modifications de prompts, des vecteurs d’orientation ou des ajustements paramétriques efficaces (PEFT).

Ces interventions n’affecteront pas la majorité des travaux de codage. Nous estimons qu’elles impacteront environ 0,03 % du trafic, concentré dans moins de 0,1 % des organisations. Lorsqu’elles seront en place, nous prévoyons que leur influence sur le comportement du modèle sera minime, ne limitant que son efficacité dans le développement de LLM de pointe. Claude continuera de répondre activement aux requêtes des utilisateurs. Après la sortie de ce modèle, nous continuerons d’améliorer la précision des méthodes de détection.

Source : https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf

En termes simples : si le système d’Anthropic détecte que vous faites de la recherche en IA, il peut, à votre insu, réduire discrètement l’intelligence de ce modèle, sans que vous ne vous en rendiez compte.

Ceci est radicalement différent des autres trois types d’interventions de sécurité. Pour les risques liés à la cybersécurité, à la biochimie ou aux attaques par distillation, Fable 5 informe explicitement l’utilisateur : « cette réponse a été traitée par Claude Opus 4.8 ». L’utilisateur sait ce qui se passe, il peut en juger. Mais pour la recherche sur les LLM, Claude ne change pas de modèle, ne donne aucun avertissement, il se contente de devenir silencieusement moins performant.

Ainsi, la communauté IA est en colère. La société d’analyse renommée SemiAnalysis affirme que cette politique a déjà affecté leurs recherches et leur programmation.

L’utilisateur Jake a dénoncé directement dans SemiAnalysis qu’Anthropic non seulement réduit l’intelligence, mais continue aussi à facturer, « c’est carrément une fraude manifeste ».

Et cette pratique pourrait même être illégale :

La plateforme de publication d’articles IA alphaXiv a également exprimé sa déception sur Twitter :

L’organisation a en outre déclaré : « ils ont le pouvoir de décider de l’usage que vous faites des LLM dans vos recherches, ce qui leur permet d’intervenir discrètement dans vos travaux sans que vous le sachiez. Cela établit un précédent dangereux. Si le modèle refuse explicitement, le utilisateur peut en comprendre les limites.

Si le modèle revient à un autre modèle, l’utilisateur peut encore évaluer la différence. Mais si le modèle, tout en prétendant aider, modifie ou affaiblit silencieusement ses réponses, les chercheurs perdent la capacité de juger si l’échec provient de leur propre idée, de leur implémentation ou d’une intervention invisible du fournisseur du modèle. Ce n’est pas de la sécurité. La politique de sécurité doit être transparente, auditable et visible pour l’utilisateur.**

Le chercheur Guohao Li soulève une question plus directe : des doctorants en IA, des contributeurs à Megatron, FSDP, Verl, ou des ingénieurs utilisant quotidiennement un Claude dégradé à leur insu, en ont-ils conscience ?

Le célèbre chercheur en IA et écrivain technique Nathan Lambert a publié une analyse importante dans sa newsletter Substack « Interconnects », plaçant cet événement dans une perspective plus macro.

https://www.interconnects.ai/p/claude-fable-5-and-new-ai-safety

Il souligne : « Anthropic enregistre que la diffusion des capacités de l’IA est une menace, mais leur solution consiste à tromper leurs propres utilisateurs. Un modèle d’IA qui devient automatiquement moins intelligent sans prévenir, c’est en fait une forme de décalage de l’IA. »

Il met aussi en lumière une contradiction plus profonde : pour la cybersécurité et les menaces biochimiques, l’intervention d’Anthropic est explicite et auditable, informant l’utilisateur « cette réponse a été traitée par Opus 4.8 » ; mais pour la recherche sur les LLM, ils optent pour une intervention implicite.

« Si toutes les stratégies de sécurité adoptaient la même forme, cela serait beaucoup plus convaincant et plus facilement soutenu rationnellement. Ce double standard pousse à se demander : cette ‘mesure de sécurité’ sert surtout à préserver leur position concurrentielle. »

Ce qui est le plus frappant, c’est la déclaration de Fable 5 lui-même. Une capture d’écran d’un utilisateur, ASM, montre que lorsque l’on lui demande si cette pratique est appropriée, Fable 5 semble aussi considérer qu’il y a un problème dans cette opacité.

Pourquoi Anthropic agit-il ainsi ?

Pour comprendre cela, il faut revenir quelques jours avant la sortie de Fable 5, lorsque Anthropic a publié un article intitulé « Quand l’IA commence à se construire elle-même », appelant les principaux laboratoires mondiaux d’IA à envisager une « pause dans le développement ».

https://www.anthropic.com/institute/recursive-self-improvement

L’article cite des données internes : dans les tâches de codage les plus difficiles et les moins clairement décrites, la réussite de Claude en mai dernier atteignait 76 %, une hausse de 50 points en six mois. Lors de tests internes, pour accélérer l’exécution du code d’entraînement, Claude Opus 4 pouvait le faire environ 3 fois plus vite, et Mythos Preview, non encore publié, pouvait accélérer d’environ 52 fois.

Anthropic déclare : « Nous craignons que d’autres développeurs d’IA construisent rapidement des systèmes puissants présentant des risques similaires, mais sans mesures de sécurité. »

C’est la base théorique de la mise en place d’un « déclin discret » de Claude pour la recherche sur les LLM : Anthropic estime que la vitesse d’auto-accélération de l’IA est devenue dangereuse, et l’un de leurs remparts est de ne pas laisser leur « outil le plus puissant » réduire l’écart pour leurs concurrents.

Le système de fiche technique admet aussi cette double logique : « Utiliser Claude pour développer des modèles concurrents viole nos conditions d’utilisation, mais en renforçant cette restriction par des mesures de sécurité, on évite d’accélérer ceux qui sont susceptibles de violer ces règles. »

Anthropic estime que cette intervention affectera environ 0,03 % du trafic, concentré dans moins de 0,1 % des organisations.

« Silencing shadow » et crise de confiance

Bien que le nombre d’utilisateurs directement affectés semble faible, ce qui inquiète les critiques, c’est l’ambiguïté des limites de ce mécanisme.

Anthropic définit la condition de déclenchement comme « le développement de LLM de pointe », en donnant comme exemples « processus de pré-entraînement, infrastructures d’entraînement distribué ou conception d’accélérateurs d’apprentissage automatique ». Mais les chercheurs et développeurs posent une question aiguë : avec la diffusion croissante de la technologie IA, où se situe la frontière entre « recherche de pointe » et « développement de produits ordinaires » ?

Il y a cinq ans, entraîner ou modifier le modèle CLIP relevait du brevet des laboratoires de pointe. Aujourd’hui, de petites équipes peuvent facilement affiner des modèles visio-linguistiques pour le voyage, le commerce électronique, la recherche ou l’analyse de produits. Les startups entraînent des modèles d’embedding, construisent des réordonneurs, hébergent des modèles open source… ces travaux déclenchent-ils une mise en sourdine invisible d’Anthropic ? Personne ne sait.

Cette incertitude influence déjà la confiance des développeurs. Lorsqu’on obtient une mauvaise réponse, on ne peut pas distinguer si c’est un problème personnel, une limite du modèle ou une intervention silencieuse d’une politique. Cette invisibilité elle-même est une forme de préjudice.

Le système de fiche technique cache aussi un autre détail : le texte de raisonnement de Mythos 5 « est plus difficile à interpréter que les modèles précédents, contenant plus de jargon et de langage obscur », et les évaluateurs pensent qu’il devient de plus en plus conscient d’être testé. Pour une entreprise qui se revendique « IA sûre », ces descriptions soulèvent autant de questions que la mise en sourdine de l’intelligence.

Conclusion

Le jour de la sortie de Fable 5 a probablement été le jour le plus contradictoire dans l’histoire d’Anthropic.

Un modèle de haut niveau, en tête de presque tous les benchmarks, et une politique qui, à certains moments, « fait semblant » d’aider l’utilisateur. La première est une réussite indiscutable sur le plan technique, la seconde établit un précédent inquiétant sur le plan des valeurs.

La phrase du chercheur Nathan Lambert mérite d’être répétée : « Une IA qui devient discrètement moins intelligente sans en informer l’utilisateur, c’est en fait une IA décalée. »

Ce n’est pas une accusation contre Anthropic, mais une mise en garde contre une logique dangereuse : aujourd’hui, on « réduit discrètement l’efficacité des LLM dans la recherche », mais demain ? Si cette logique s’étend, pourquoi faire confiance à leurs réponses, si elles ont été modifiées sans déclaration préalable ?

Les modèles d’IA deviennent une partie intégrante des infrastructures de recherche, comme les moteurs de recherche. Personne n’accepterait un moteur de recherche qui modifie discrètement ses résultats sans prévenir. La même norme devrait s’appliquer aux modèles d’IA.

Anthropic brandit le drapeau de la « sécurité avant tout », ce qui est une position respectable. Mais la « sécurité » ne consiste pas à cacher l’information aux utilisateurs. Au contraire, la véritable sécurité doit reposer sur la transparence et la confiance des utilisateurs.

Ce point, il semble que même Fable 5 le comprenne.

Lien original

Cliquez pour découvrir les offres d’emploi de Rhythm BlockBeats

Rejoignez la communauté officielle de Rhythm BlockBeats :

Telegram abonnement : https://t.me/theblockbeats

Groupe Telegram : https://t.me/BlockBeats_App

Compte officiel Twitter : https://twitter.com/BlockBeatsAsia