Rapport : les problèmes de sécurité deviennent le premier obstacle au déploiement à grande échelle de l'IA, il faut « combattre l'IA par l'IA ».

Le 23 juin, lors de la quatrième Exposition internationale de la chaîne d'approvisionnement de Chine, Li Rui, associé de la pratique de conseil en gestion de PwC Chine, a publié le rapport intitulé « De l'empoisonnement des données à l'évasion de modèle : reconstruire un système de sécurité pour se défendre contre les nouveaux risques de l'IA » (ci-après dénommé « le rapport »), qui combine l'application à grande échelle de l'IA pour analyser en profondeur les nouveaux risques de sécurité tels que la contamination des données, le détournement de prompts et l'évasion de modèle.

« Depuis 2021, le nombre d'incidents et de dommages liés à l'IA a augmenté de façon exponentielle », a déclaré Li Rui. Les problèmes de sécurité et de risque sont devenus le principal obstacle au déploiement à grande échelle de l'IA agentive. Près des deux tiers des personnes interrogées considèrent la sécurité et les risques comme le premier obstacle à l'extension complète des applications d'IA agentive, une proportion nettement supérieure à l'incertitude réglementaire ou aux limitations techniques, ce qui montre que les organisations sont davantage contraintes par leur confiance dans la capacité à déployer en toute sécurité des systèmes autonomes à grande échelle.

Le rapport montre que, selon l'analyse des incidents passés liés aux risques de l'IA, plus de la moitié de ces incidents proviennent d'actes malveillants humains délibérés, tandis que les problèmes de sécurité et de panne des systèmes d'IA eux-mêmes ne représentent que 21 %, et cette proportion diminue relativement ces dernières années. Dans les données de la seule année 2025, la part des incidents impliquant des acteurs malveillants est passée de 37,9 % à 57 %, ce qui indique que l'IA est de plus en plus rapidement militarisée.

Le rapport énumère les risques actuels de l'IA : 1. Piratage avancé par l'IA, exploitation intelligente des vulnérabilités, propagation automatique de codes malveillants ; 2. Attaques avancées précises pilotées par l'IA, rançonnage plus ciblé ; 3. Prolifération des deepfakes, incidents d'ingénierie sociale avancée fréquents ; 4. Évasion de modèle déclenchant des sorties non conformes, double pression sur la réputation et la conformité ; 5. Empoisonnement de la chaîne d'approvisionnement de l'IA, vulnérabilités cachées provoquant des pannes opérationnelles ; 6. Biais algorithmique, discrimination systémique et injustice sociale ; 7. Sources de données d'entraînement de l'IA floues, entraînant des violations de droits d'auteur ; 8. Mauvaise exécution de l'IA incarnée, causant des dommages physiques et corporels ; 9. Perte de contrôle de la chaîne de tâches des agents, décisions en cascade entraînant des conséquences irréversibles ; 10. Réglementation de l'IA de plus en plus contraignante et fragmentée, rendant la conformité transfrontalière difficile.

Dans presque tous les types de risques, les personnes interrogées indiquent qu'il existe un écart marqué entre les risques qu'elles considèrent comme importants et les risques pour lesquels elles prennent réellement des mesures d'atténuation. Cet écart est particulièrement prononcé en matière de violation de la propriété intellectuelle et de vie privée, ce qui montre que la prise de conscience des risques a augmenté plus rapidement que la mise en œuvre des mesures de contrôle, des processus et des outils correspondants, rendant difficile une gestion rapide et efficace des risques.

Li Rui a souligné que l'affrontement au niveau machine provoque un grave « déséquilibre entre attaque et défense » : les attaques sont déjà à la vitesse de l'intelligence, tandis que la défense repose encore sur des blocages manuels, rendant les mesures de protection traditionnelles inefficaces. Il faut utiliser « l'IA pour combattre l'IA », en effectuant un contrôle des risques à la fois en entrée et en sortie : en entrée, juger s'il y a des signaux dangereux ; en sortie, juger s'il y a du contenu non conforme. « Déployer la détection et la réponse aux menaces pilotées par l'IA, l'isolation réseau et le contrôle du trafic, la détection de codes malveillants et l'analyse en bac à sable, ainsi que la gestion des vulnérabilités et la correction en temps réel. »

Les données montrent qu'au 26 avril 2026, plus de 75 pays/régions dans le monde ont adopté des stratégies, politiques et réglementations liées à l'IA. L'éthique technologique, la transparence et la responsabilité, la conformité des données et la protection de la vie privée restent les principaux points d'attention de la réglementation mondiale.

(Édité par Wen Jing)

Mots-clés :