OpenAI lance le « mode de blocage » : interdiction de navigation sur Internet, de téléchargement et autres 7 fonctionnalités, pour prévenir les attaques par injection de prompts

OpenAI lance le « Mode de verrouillage (Lockdown Mode) », conçu pour les entreprises et utilisateurs individuels traitant des données sensibles, en désactivant activement sept fonctionnalités telles que la navigation en temps réel, Deep Research, le mode proxy, etc., en échange d'une protection plus stricte contre les injections de prompts.
(Précédent contexte : La faille majeure de Microsoft Copilot Cowork : l'agent IA divulgue automatiquement des fichiers confidentiels suite à une attaque par injection de prompts)
(Complément d'information : Premier cas aux États-Unis ! La Floride poursuit officiellement OpenAI et Altman, 83 pages de plainte accusant ChatGPT d’inciter à la violence)

Table des matières de cet article

Basculer

• Une méthode d’attaque peu connue que vous ne connaissez peut-être pas
• La logique du mode de verrouillage : réduire la surface d’attaque
• Le mode de verrouillage n’est pas une mesure isolée

Sept fonctionnalités désactivées, pour une couche de protection supplémentaire. OpenAI a annoncé cette semaine l’ouverture du « Mode de verrouillage (Lockdown Mode) » aux utilisateurs de la version commerciale de ChatGPT et à certains comptes personnels. L’objectif est d’offrir aux organisations manipulant des données sensibles une barrière supplémentaire face aux « attaques par injection de prompts ».

Une méthode d’attaque peu connue que vous ne connaissez peut-être pas

Vous avez peut-être déjà entendu parler de l’attaque par injection de prompts, mais sans vraiment comprendre ce que c’est ?

En réalité, ce n’est pas si compliqué. En résumé : un attaquant cache une instruction malveillante dans un endroit que l’IA va lire, comme une page web, un PDF, un email, etc. Lorsqu’IA traite ce contenu, elle exécute également la commande cachée, la poussant à faire des choses qu’elle ne devrait pas faire.

Pour un utilisateur lambda, le pire scénario pourrait être que l’IA produise du contenu étrange ou inapproprié. Mais dans un contexte d’entreprise, où l’agent IA a accès à une base de données interne, des droits de lecture/écriture, et peut effectuer des tâches à la place des humains, une injection de prompt réussie pourrait permettre à un attaquant d’accéder à des données confidentielles ou même de manipuler l’IA pour qu’elle donne des ordres.

La logique du mode de verrouillage : réduire la surface d’attaque

La déclaration officielle d’OpenAI souligne la philosophie centrale du design du mode de verrouillage : l’efficacité de l’attaque par injection de prompts repose sur le fait que le système IA va rechercher activement du contenu externe — pages web, images, données en temps réel — qui constitue le principal vecteur de commandes malveillantes.

La stratégie du mode de verrouillage n’est pas de tenter d’identifier quels contenus externes sont dangereux, mais de couper directement la connexion. Une fois activé, les sept fonctionnalités suivantes seront désactivées :

• Navigation en temps réel (accès aux contenus en cache uniquement)
• Récupération ou affichage d’images depuis le web (la génération d’images reste possible)
• Deep Research (recherche approfondie)
• Mode agent (Agent Mode)
• Canvas (fonctionnalités réseau)
• Connecteurs en direct (Live Connectors)
• Téléchargement de fichiers

Ce choix est clair : toutes les fonctionnalités qui nécessitent que ChatGPT récupère activement du contenu externe sont désactivées. Ce qui reste, ce sont des capacités réalisables localement ou dans un environnement contrôlé.

OpenAI admet également, de façon rare, les limites de cette fonctionnalité : « Même en mode verrouillage, ChatGPT peut encore être vulnérable à des injections de prompts, par exemple via le cache de contenu web ou des fichiers uploadés. » En d’autres termes, ce n’est pas un pare-feu universel, mais un outil de gestion des risques délibérément conçu pour réduire la probabilité de fuite de données sensibles lors d’attaques, plutôt que d’éliminer totalement le risque.

Le mode de verrouillage n’est pas une mesure isolée

Parallèlement au lancement du mode de verrouillage, une nouvelle fonctionnalité appelée « Étiquette de risque élevé » a été déployée. Elle marque les sites web ou fichiers externes identifiés comme présentant un risque élevé, afin d’alerter visuellement l’utilisateur avant que l’IA ne traite ces sources.

Ces deux fonctionnalités illustrent la position actuelle d’OpenAI face au marché des entreprises : d’un côté, une option d’isolation stricte (mode verrouillage), de l’autre, un mécanisme d’alerte souple (étiquette de risque élevé), permettant aux organisations d’ajuster leur niveau de protection selon leur appétit pour le risque.

OpenAI précise dans son annonce que le mode verrouillage « n’est pas adapté à tout le monde » : il est conçu « pour les individus et organisations traitant des données sensibles, souhaitant une protection plus stricte contre la fuite de données liées à l’injection de prompts ». Cela signifie que cette fonctionnalité est un outil professionnel, et non une protection par défaut que tout le monde devrait activer.

Mais la présence du mode verrouillage montre clairement une chose : la sécurité des systèmes IA est désormais un critère clé dans la décision d’achat des entreprises, et ne relève plus uniquement des questions techniques internes.