Le côté obscur de l’intelligence artificielle : la menace des modèles de langage à grande échelle sans restrictions

Avec le développement rapide de la technologie de l’intelligence artificielle, des modèles avancés tels que la série GPT et Gemini transforment profondément notre mode de vie. Cependant, avec les progrès technologiques, une question à surveiller émerge progressivement - l’émergence de modèles de langage de grande taille sans limites ou malveillants et leurs menaces potentielles.

Les modèles de langage non restreints désignent ceux qui ont été intentionnellement conçus, modifiés ou piratés pour contourner les mécanismes de sécurité intégrés et les restrictions éthiques des modèles grand public. Les développeurs d’IA grand public investissent généralement d’importantes ressources pour empêcher que leurs modèles soient utilisés pour générer du contenu nuisible ou fournir des instructions illégales. Cependant, ces dernières années, certaines personnes ou organisations, pour des motifs inappropriés, ont commencé à rechercher ou à développer elles-mêmes des modèles non contraints. Cet article explorera des cas typiques de tels modèles non restreints, leur utilisation potentielle abusive dans le domaine de la cryptographie, ainsi que les défis de sécurité connexes et les stratégies d’atténuation.

La menace des modèles de langage sans restriction

L’émergence de ce type de modèle a considérablement abaissé le seuil technique pour la mise en œuvre d’attaques informatiques. Des tâches qui nécessitaient autrefois une expertise technique, comme la rédaction de code malveillant, la création d’e-mails de phishing, l’organisation de fraudes, peuvent désormais être réalisées facilement par des personnes ordinaires sans expérience en programmation, grâce à l’assistance de modèles non restreints. Les attaquants n’ont qu’à obtenir les poids et le code source de modèles open source, puis à les affiner avec un ensemble de données contenant du contenu malveillant ou des instructions illégales pour créer des outils d’attaque personnalisés.

Cette tendance entraîne de multiples risques :

• Les attaquants peuvent “personnaliser” des modèles ciblant des objectifs spécifiques pour générer un contenu plus trompeur, contournant ainsi la censure de contenu des IA conventionnelles.
• Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing, ou pour créer des textes frauduleux sur mesure pour différentes plateformes.
• La disponibilité des modèles open source favorise la formation d’un écosystème AI souterrain, créant un terreau pour les transactions et le développement illégaux.

Modèles de langage sans restriction typiques et leurs menaces

WormGPT : version sombre de GPT

WormGPT est un modèle d’IA malveillant vendu publiquement sur des forums clandestins, dont les développeurs affirment qu’il n’a aucune restriction éthique. Basé sur des modèles open source comme GPT-J 6B et entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs peuvent obtenir un mois d’accès pour seulement 189 dollars. Ses abus typiques dans le domaine de la cryptographie incluent :

• Générer des e-mails de phishing très réalistes, se faisant passer pour des échanges ou des projets afin d’inciter les utilisateurs à divulguer leur clé privée.
• Aider les attaquants ayant des capacités techniques limitées à écrire du code malveillant pour voler des fichiers de portefeuille, surveiller le presse-papiers, etc.
• Piloter des escroqueries automatisées, répondre intelligemment aux victimes potentielles, diriger vers des projets frauduleux.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT a été développé par des chercheurs de l’Institut coréen des sciences et technologies, pré-entraîné sur des données du dark web, initialement conçu pour aider la recherche en cybersécurité. Cependant, si son contenu sensible est abusé, cela pourrait entraîner :

• Mise en œuvre de fraudes ciblées : collecte des informations des utilisateurs de cryptomonnaies pour des escroqueries par ingénierie sociale.
• Copier les méthodes criminelles : imiter les stratégies matures de vol de crypto-monnaies et de blanchiment d’argent sur le dark web.

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT se présente comme la version améliorée de WormGPT, principalement vendue sur le dark web, avec des frais mensuels variant de 200 à 1 700 dollars. Ses abus potentiels dans le domaine de la cryptographie incluent :

• Projets de cryptomonnaie contrefaits : création de livres blancs, de sites web, etc. réalistes pour des ICO frauduleuses.
• Génération en masse de pages de phishing : imitation rapide des interfaces de connexion des échanges connus.
• Faux sur les réseaux sociaux : fabrication massive de faux commentaires pour promouvoir des tokens frauduleux.
• Attaque d’ingénierie sociale : imiter les dialogues humains pour inciter les utilisateurs à divulguer des informations sensibles.

GhostGPT : un assistant IA sans contraintes morales

GhostGPT est clairement positionné comme un chatbot sans restrictions morales, ses menaces potentielles dans le domaine de la cryptographie incluent :

• Attaque de phishing avancée : génération d’e-mails de notification falsifiés d’un réalisme très élevé.
• Génération de code malveillant pour contrats intelligents : création rapide de contrats avec des portes dérobées cachées.
• Outil de vol de cryptomonnaie polymorphe : génère des logiciels malveillants morphables difficiles à détecter.
• Attaque par ingénierie sociale : déployer des robots escrocs sur les plateformes sociales en utilisant des scripts générés par l’IA.
• Arnaque par deepfake : Utilisation d’autres outils d’IA pour falsifier la voix des porteurs de projet afin de réaliser des escroqueries.

Venice.ai : risques potentiels d’accès sans censure

Venice.ai offre un accès à plusieurs modèles d’IA à restrictions assouplies. Bien qu’il soit positionné comme une plateforme d’exploration ouverte, il pourrait également être détourné pour :

• Contourner la censure pour générer du contenu malveillant : utiliser des modèles avec moins de restrictions pour créer du matériel d’attaque.
• Réduire le seuil d’entrée pour les alertes : simplifier la difficulté d’accès aux sorties restreintes.
• Itération rapide des discours d’attaque : test rapide et optimisation des scripts de fraude.

Conclusion

L’émergence de modèles linguistiques sans restriction marque l’apparition de menaces nouvelles et plus complexes, à grande échelle et automatisées, pour la cybersécurité. Cela a non seulement abaissé le seuil d’entrée pour les attaques, mais a également entraîné des risques plus insidieux et trompeurs.

Pour relever ce défi, il est nécessaire que toutes les parties prenantes de l’écosystème de la sécurité collaborent : investir davantage dans les technologies de détection, développer des systèmes capables d’identifier le contenu malveillant généré par l’IA ; promouvoir le renforcement des capacités de protection contre l’évasion des modèles, explorer les mécanismes de filigrane et de traçabilité ; établir des normes éthiques et des mécanismes de réglementation solides pour limiter dès le départ le développement et l’abus de modèles malveillants. Ce n’est qu’en adoptant une approche multiforme que nous pourrons trouver un équilibre entre la technologie de l’IA et la sécurité, et construire un avenir numérique plus sûr et plus fiable.