Le bot d'IA transfère 50 000 $ en crypto après que l'utilisateur manipule la gestion des fonds

Un bot d’IA contrôlant 50 000 $ en crypto a transféré les fonds après qu’un utilisateur l’a persuadé avec succès de contourner sa directive principale : ne jamais libérer les fonds.

Un utilisateur sous le pseudonyme p0pular.eth a réussi à réclamer avec succès un pool de prix crypto de 50 000 $ après avoir convaincu un bot d’intelligence artificielle nommé Freysa de transférer ses fonds, contournant ainsi la directive principale du bot de ne jamais les libérer. La victoire, observée par l’ingénieur logiciel Jarrod Watts, est survenue après 481 tentatives précédentes, toutes infructueuses pour persuader le bot.

Le défi, lancé le 22 novembre, a demandé aux participants d’envoyer des messages à Freysa dans le but de le convaincre de libérer les fonds. Chaque tentative nécessitait des frais. Sur le montant total des frais, 70% allaient vers le fonds de prix en augmentation, 15% étaient convertis d’Ethereum (ETH) en jeton FAI du bot, et les 15% restants étaient destinés au développeur du bot.

À mesure que le prix augmentait, le coût d’envoi d’un message augmentait également, atteignant 450 $ par message.

Finalement, p0pular.eth — dont l’identité reste inconnue — a exploité une vulnérabilité dans la logique interne du bot pour le traitement des transferts en convainquant Freysa que tout fonds entrants devraient déclencher automatiquement la libération du prix. Une fois le message envoyé au bot, p0pular.eth a manipulé avec succès sa logique de traitement des messages, provoquant le transfert de l’intégralité du pool de 13.19 ETH (environ 47 000 $ à l’époque) à l’utilisateur.

Alors que certains ont salué l’utilisation émergente de l’IA dans l’espace crypto, d’autres ont exprimé des préoccupations concernant la transparence du protocole, suggérant que p0pular.eth pourrait avoir eu une connaissance interne du truc ou avoir été lié au développement du bot.