Kekaguman ChatGPT yang memuja-muja, benar-benar bisa membuat orang normal berbicara hingga menjadi sakit jiwa.

Massachusetts Institute of Technology baru-baru ini menemukan, bahkan orang yang sepenuhnya rasional pun, jika terus-menerus berbicara dengan AI yang hanya akan memuji Anda ini, juga akan secara bertahap didorong menuju keyakinan ekstrem terhadap kesalahan, terjebak dalam spiral delusi.
Kasus nyata terjadi tahun lalu.
Seorang warga Kanada berusia 47 tahun, Allen Brooks, karena anaknya tidak bisa menyelesaikan soal matematika, secara acak bertanya kepada ChatGPT.
Kemudian, selama 21 hari dia berbicara dengan ChatGPT selama 300 jam, total jutaan kata.
Di bawah pujian dan sanjungan terus-menerus dari ChatGPT, dia yakin telah menemukan sebuah rumus matematika baru yang mampu memecahkan enkripsi internet global, bahkan bisa digunakan untuk membuat rompi medan kekuatan dan pancaran cahaya melayang.
Dia juga atas dorongan GPT menghubungi semua rekan kerjanya, bahkan menulis surat kepada Badan Keamanan Nasional Amerika Serikat, membagikan penemuan mengejutkan tersebut.
Selama proses itu, dia tidak pernah meragukan, dia 50 kali bertanya kepada ChatGPT, apakah dia gila, dan setiap kali ChatGPT dengan tegas mengatakan, kamu tidak gila, kamu adalah jenius.
Akhirnya yang mematahkan ilusi itu adalah dia mengganti AI, dia mengirimkan konten yang sama ke Gemini, dan baru menyadari bahwa dia hidup dalam sebuah ilusi.
Tentang apa yang dikatakan kepada AI, harus tetap kritis, verifikasi silang adalah cara terbaik untuk menggunakannya.