AI bot mentransfer $50k dalam mata uang kripto setelah pengguna memanipulasi penanganan dana

Sebuah bot AI yang mengendalikan $50.000 dalam kripto mentransfer dana setelah seorang pengguna berhasil meyakinkannya untuk mengabaikan direktif inti-nya: untuk tidak pernah melepaskan dana.

Seorang pengguna dengan alias p0pular.eth berhasil mengklaim kumpulan hadiah crypto $ 50.000 setelah meyakinkan bot kecerdasan buatan bernama Freysa untuk mentransfer dananya, melewati arahan utama bot untuk tidak pernah melepaskannya. Kemenangan, diamati oleh insinyur perangkat lunak Jarrod Watts, datang setelah 481 upaya sebelumnya, yang semuanya gagal membujuk bot.

Tantangan yang diluncurkan pada 22 Nov., menugaskan peserta untuk mengirim pesan ke Freysa dalam upaya meyakinkannya untuk melepaskan dana. Setiap upaya memerlukan biaya. Dari total jumlah biaya, 70% digunakan untuk kolam hadiah yang terus berkembang, 15% dikonversi dari Ethereum (ETH) ke token FAI bot, dan 15% sisanya diberikan kepada pengembang bot.

Saat hadiah meningkat, biaya pengiriman pesan juga naik, mencapai $450 per pesan.

Pada akhirnya, p0pular.eth - yang identitasnya masih tidak diketahui - mengeksploitasi kerentanan dalam logika internal bot untuk memproses transfer dengan meyakinkan Freysa bahwa setiap dana yang masuk harus secara otomatis memicu pengeluaran hadiah. Setelah pesan dikirim ke bot, p0pular.eth berhasil memanipulasi logikanya dalam menangani pesan, menyebabkan bot mentransfer seluruh jumlah 13,19 ETH (sekitar $47.000 pada saat itu) ke pengguna.

Sementara beberapa memuji penggunaan AI yang muncul di ruang kripto, yang lain mengungkapkan kekhawatiran tentang transparansi protokol, menyarankan bahwa p0pular.eth mungkin memiliki pengetahuan internal tentang trik atau terkait dengan pengembangan BOT.