Bureau de la protection des données personnelles de Hong Kong avertit des risques de "farming" : OpenClaw et autres IA multi-agents pourraient entraîner une fuite de données

Chaque jour, le journaliste | Li Xukui | Éditeur | Bi Luming

L’intelligence artificielle déléguée, représentée notamment par OpenClaw (un cadre open source pour agents intelligents basé sur l’IA, communément appelé « Crabe »), suscite l’attention des autorités en raison des risques pour la vie privée et la sécurité.

Le 16 mars, la Commission de la protection des données personnelles de Hong Kong (ci-après « la Commission ») a publié sur son site officiel qu’elle surveillait de près les risques liés à la vie privée et à la sécurité liés à OpenClaw et à d’autres IA déléguées, appelant les institutions et les citoyens à prendre des mesures de précaution avant d’utiliser ces outils.

La Commission a indiqué que l’IA déléguée, contrairement aux chatbots classiques principalement utilisés pour répondre à des textes, résumer ou générer du contenu, a une utilisation plus large. Elle désigne généralement un outil d’agent IA à haute permission, pouvant être déployé sur un appareil local ou un serveur, capable de lire et écrire des fichiers locaux, d’accéder aux ressources système, d’opérer des services externes, voire d’exécuter des tâches multi-étapes en autonomie selon un processus prédéfini, comme gérer des emails, réserver une table au restaurant ou payer des factures, sans intervention immédiate de l’utilisateur.

Ce caractère à haute permission et autonome augmente considérablement les risques pour la vie privée par rapport aux chatbots IA classiques. La Commission a principalement identifié trois risques potentiels :

1. Permissions excessives pouvant entraîner une large exposition des données personnelles. Les permissions par défaut d’un agent IA délégué sont généralement plus élevées que celles d’un chatbot IA, permettant l’accès aux fichiers, emails, identifiants de comptes et contenus stockés dans le navigateur de l’utilisateur. Si ces permissions ne sont pas strictement limitées, l’agent IA pourrait accéder à une grande quantité de données personnelles impliquant l’utilisateur ou d’autres personnes, augmentant le risque de consultation, de copie ou de fuite non autorisée. De plus, une erreur d’interprétation des instructions pourrait entraîner la suppression accidentelle de données importantes, comme tous les emails de l’utilisateur.

2. Vulnérabilités du système pouvant servir de porte d’entrée aux attaques. Un agent IA délégué doté de hautes permissions, pouvant accéder à plusieurs systèmes et sources de données, constitue un point faible si des vulnérabilités apparaissent dans sa conception ou ses contrôles de sécurité, mettant en danger la confidentialité et la sécurité globale des données.

3. Risque de plugins tiers ou de codes malveillants dissimulés. Si l’agent IA permet l’installation de plugins ou de compétences (Skills) par l’utilisateur, et que certains de ces programmes n’ont pas été soumis à une vérification de sécurité rigoureuse, ils peuvent contenir des codes malveillants. Les hackers pourraient ainsi s’en servir pour prendre le contrôle du compte utilisateur ou même du système informatique entier, entraînant la fuite de données sensibles.

Face à ces risques, la Commission recommande aux institutions et aux citoyens d’être particulièrement vigilants lors de la collecte, de l’utilisation et du traitement des données personnelles par l’agent IA délégué : limiter au minimum les permissions accordées, utiliser la dernière version officielle, prendre des mesures suffisantes pour assurer la sécurité du système et des données, faire preuve de prudence lors de l’installation et de l’utilisation de plugins ou de compétences, et évaluer continuellement les risques.

Il est à noter que, selon une revue du journaliste du « Daily Economic News », ce n’est pas la première fois que les autorités émettent une alerte concernant l’installation d’OpenClaw.

Le 13 mars, le Bureau de la politique numérique responsable de l’IA du gouvernement de Hong Kong a indiqué aux médias qu’il avait pris note des risques de sécurité incertains liés à OpenClaw et avait averti les départements du gouvernement de ne pas installer OpenClaw sur des ordinateurs connectés au réseau interne du gouvernement.

Le même jour, le Centre national d’information sur la cybersécurité a publié une alerte de sécurité concernant OpenClaw, mentionnant que « de nombreux actifs OpenClaw exposés à Internet présentent un risque majeur de sécurité, étant susceptibles de devenir des cibles privilégiées pour des attaques en ligne ».

Le 15 mars, le compte officiel de l’Association chinoise de la finance Internet a publié un avis indiquant que, bien que l’agent OpenClaw puisse améliorer l’efficacité du travail, ses permissions système élevées par défaut et sa faible configuration de sécurité sont facilement exploitées par des attaquants, ce qui pourrait conduire à des vols de données sensibles ou à des manipulations illégales de transactions, posant de graves défis pour le secteur.

L’Association chinoise de la finance Internet conseille aux consommateurs financiers d’être très prudents lors de l’installation d’OpenClaw sur leurs terminaux pour les opérations bancaires en ligne, transactions boursières ou paiements. Si l’installation est nécessaire, il est recommandé de ne pas accorder de permissions opérationnelles aux systèmes de services financiers, de suivre rapidement la correction des vulnérabilités d’OpenClaw, de limiter strictement l’installation de plugins, et de ne pas saisir d’informations sensibles telles que numéro d’identité, numéro de carte bancaire ou mot de passe lors de l’utilisation.

De plus, plusieurs universités, dont l’Institut de médecine et de technologie de la santé de Henan, l’Université de technologie appliquée du Shanxi et l’Institut professionnel de métallurgie du Gansu, ont récemment publié des annonces interdisant l’utilisation d’OpenClaw dans l’environnement du réseau universitaire. Les départements ou enseignants ayant déjà installé le logiciel doivent le désinstaller immédiatement et complètement.