La contamination de données est en train de se propager » Le rapport de sécurité informatique de 44 pages d'Ernst & Young a été dévoilé : sur 27 citations, 16 ont été inventées par l'IA

AI détection de la société GPTZero révèle qu’un rapport de 44 pages sur la sécurité informatique publié par Ernst & Young (EY) Canada à la fin 2025 comporte de graves défauts.

GPTZero a vérifié ligne par ligne 27 citations, découvrant que 16 d’entre elles étaient des hallucinations, soit plus de 70%. Le rapport lui-même n’utilise pas de notes de bas de page académiques, mais des annotations dans le texte, avec une « table des ressources » en pages 41 à 43 listant les sources, descriptions, URL, avec parfois l’éditeur et la date.

Le problème réside dans cette table : presque toutes les URL sont invalides ou inexistantes, plus de la moitié des titres de sources ne correspondent à aucune référence réelle. La totalité du rapport est estimée à environ 72% de texte généré par IA.

Deux chiffres qui se contredisent de 200 milliards

Le problème le plus évident de ce rapport est une contradiction presque impossible à expliquer par une seule personne.

Le résumé exécutif affirme que « la taille du marché mondial des points de fidélité atteint 2000 milliards de dollars », tout en indiquant que 30 à 50% des points n’ont jamais été utilisés. La page 10 du rapport précise que « 2000 milliards de dollars » représente la « valeur totale des points non échangés ». Si 50% des points ne sont pas échangés et valent déjà 2000 milliards, alors la taille du marché mondial devrait être au moins de 4000 milliards, ce qui est une contradiction entre ces deux chiffres.

Plus important encore, chacun de ces chiffres est accompagné d’une citation : une fausse de Forbes, une fausse de McKinsey.

GPTZero a enquêté sur « McKinsey & Company : Loyalty Economics Report (2022) », un document qui n’existe pas. En remontant six mois en arrière, ils ont trouvé dans un blog de Financial IT des phrases presque identiques, avec cette même fausse référence à McKinsey.

Autrement dit, quelqu’un a d’abord inventé une citation académique sur un blog peu fréquenté, puis EY a « blanchie » cette référence en la présentant comme une publication d’un des grands cabinets. C’est ce qu’on appelle la contamination de la chaîne de citations.

Quand les grands modèles de langage remplacent Google Scholar

Les ingénieurs de GPTZero ont créé un terme pour ce phénomène : vibe citing. En résumé, des chercheurs ou consultants, trop paresseux pour vérifier leurs sources, demandent à l’IA de générer des références, qui ressemblent à des citations mais sont en réalité inventées de toutes pièces.

C’est la première vague d’enquêtes de GPTZero. Au cours des derniers mois, ils ont mis en place un pipeline automatisé pour analyser systématiquement les rapports publics de grandes sociétés de conseil, et les résultats préliminaires montrent que le vibe citing est devenu une véritable épidémie, touchant même les leaders du secteur.

Risque systémique de la « contamination de données » par l’IA

GPTZero qualifie le plus grand danger de ce rapport de « contamination de données ».

En termes simples, il s’agit de télécharger en ligne des fichiers contenant de fausses informations, ce qui revient à injecter du poison dans la base de connaissances partagée par tous, induisant en erreur futurs chercheurs et décideurs. EY Canada fournit chaque année des services d’audit et de conseil pour plusieurs millions de dollars au gouvernement canadien. Quand la source est une institution de ce calibre et que le fichier est publié sur un site très fréquenté, la diffusion du poison s’accélère et la confiance s’érode, difficile à réparer.

Ce rapport a déjà provoqué des remous dans les médias australiens : un article citant ce rapport dans « The Canberra Times » a été repris par plus de 60 journaux en Australie.

GPTZero a testé Claude, ChatGPT, Perplexity : tous ont cité ce rapport d’EY, rempli d’hallucinations, lorsqu’on leur a posé des questions comme « combien de temps faut-il pour détecter une fraude dans un programme de fidélité ». Les outils d’IA pour la recherche approfondie utilisent des signaux différents de ceux des humains, dépendant davantage de la réputation de la source, ce qui les rend plus vulnérables à la contamination de données.

L’outil de détection d’hallucinations de GPTZero est désormais utilisé pour filtrer les soumissions de papiers dans des conférences prestigieuses comme IJCAI, ICLR, ICSE. Auparavant, GPTZero avait aussi analysé des documents gouvernementaux, deux rapports de Deloitte, ainsi que des articles pour NeurIPS et ICLR.

Après cette enquête, EY Canada a retiré le white paper de son site et a publié une déclaration : « EY Canada prend très au sérieux la précision de tout contenu publié par nos soins, et s’engage à utiliser l’IA de manière responsable. Nous examinons actuellement pourquoi ce rapport a été publié. »

Une grande firme de renom, spécialisée dans l’audit rigoureux, a confié sa crédibilité à un modèle linguistique qui ne vérifie même pas ses citations. Lorsqu’elle a été démasquée par une petite équipe de trois personnes, elle a pris conscience de la gravité du problème.

Ce n’est pas un cas isolé, mais une tendance qui touche toute l’industrie : lorsque « l’IA générée » remplace « le jugement professionnel », la crédibilité de la marque devient la plus grande source de risque, notamment à cause des citations qui la soutiennent.