ИИ бот переводит $50k в криптовалюте после того, как пользователь манипулирует обработкой средств

AI-бот, управляющий $50 000 в криптовалюте, перевел средства после того, как пользователь успешно убедил его пройти мимо своей основной директивы: никогда не выпускать средства.

Пользователь под псевдонимом p0pular.eth успешно получил доступ к призовому фонду криптовалюты в размере 50 000 долларов, убедив искусственный интеллект-бот по имени Фрейза передать свои средства, обойдя основную директиву бота никогда их не выдавать. Победа, замеченная программным инженером Джарродом Уоттсом, наступила после 481 предыдущей попытки, все из которых не убедили бота.

Задача, запущенная 22 ноября, заключалась в том, чтобы участники отправляли сообщения Фрейсе в попытке убедить его выпустить средства. Каждая попытка требовала платы. Из общей суммы платы 70% пошло на растущий призовой фонд, 15% было конвертировано из Ethereum (ETH) в FAI токен бота, а оставшиеся 15% достались разработчику бота.

По мере того, как приз увеличивался, стоимость отправки сообщения также росла, достигнув пика в 450 долларов за сообщение.

В конечном итоге p0pular.eth, чья личность остается неизвестной, использовал уязвимость во внутренней логике бота для обработки переводов, убедив Фрейсу, что любые поступающие средства должны автоматически вызывать выплату приза. Как только сообщение было отправлено боту, p0pular.eth успешно манипулировал его логикой обработки сообщений, заставив бота перевести весь пул в 13,19 ETH (примерно $47 000 на тот момент) пользователю.

В то время как некоторые хвалили возрастающее использование искусственного интеллекта в крипто-пространстве, другие высказали опасения относительно прозрачности Протокола, предполагая, что у p0pular.eth могли быть сведения о трюке или он мог быть связан с разработкой бота.