AI бот переказує $50 тис. у криптовалюті після того, як користувач маніпулює обробкою коштів

Штучний інтелект BOT, який керує $50,000 в криптовалюті, передав кошти після того, як користувач успішно переконав його обійти основну директиву: ніколи не вивільняти кошти.

Користувач під псевдонімом p0pular.eth успішно заявив про $50 000 криптовалютний призовий фонд, переконавши штучний інтелект-бот під назвою Фрейса передати його кошти, обійшовши основну директиву бота ніколи їх не випускати. Перемога, спостережена інженером-програмістом Джарродом Ваттсом, настала після 481 попередньої спроби, всі з яких не вдалося переконати бота.

Виклик, запущений 22 листопада, задавав учасникам завдання надсилати повідомлення до Фрейси в намаганні переконати її вивільнити кошти. Кожна спроба вимагала плати. Загальна сума плати, 70% з якої складалося зростаючого призового фонду, 15% було конвертовано з Ethereum (ETH) в FAI-токен бота, а решта 15% потрапила до розробника бота.

Зі збільшенням призу вартість надсилання повідомлення також зросла, досягнувши піку в 450 доларів США за повідомлення.

Зрештою, p0pular.eth - чия особа залишається невідомою - скористався уразливістю внутрішньої логіки бота для обробки переказів, переконавши Фрейзу, що будь-які надходження коштів автоматично повинні викликати виплату призу. Коли повідомлення було надіслано боту, p0pular.eth успішно маніпулював його логікою обробки повідомлень, що призвело до переказу всього пулу в розмірі 13,19 ETH (приблизно 47 000 доларів на той момент) користувачу.

Хоча деякі хвалили зростаюче використання ШІ в криптосфері, інші висловлювали обурення щодо прозорості протоколу, вказуючи на те, що у p0pular.eth можуть бути внутрішні знання про хитрість або бути пов’язаним з розробкою бота.