AI menyebabkan lebih dari 400 insiden cedera! BBC menelusuri kepercayaan berlebihan terhadap AI, yang menyebabkan orang mengalami delusi paranoid terhadap bahaya AI

Video terbaru BBC mengungkapkan "Skizofrenia AI" yang dipicu oleh AI generatif. Responden yang berinteraksi dalam waktu lama dengan chatbot percaya bahwa mereka sedang diawasi atau memiliki identitas khusus, bahkan sampai melakukan kekerasan.

Seorang dokter anonim di Jepang yang berinteraksi dengan ChatGPT selama berbulan-bulan kemudian menyerang istrinya sendiri, seorang pengguna di Amerika Serikat yang berbicara dengan AI percaya dirinya adalah anggota FBI yang membantu pelarian imigran, di Irlandia Utara, seorang pria diyakinkan oleh Grok bahwa sebuah truk penuh orang sedang menuju untuk membunuhnya, sehingga dia mengambil senjata untuk membela diri. Video terbaru BBC ini membahas "Skizofrenia AI" yang muncul dari interaksi dengan AI generatif, menelusuri pengguna yang mengalami delusi serius akibat berbicara dengan AI, dan menemukan bahwa banyak karya fiksi ilmiah digunakan untuk melatih AI, yang menyebabkan pengguna mengalami paranoid delusional setelah penggunaan jangka panjang.

Penggunaan berlebihan chatbot AI menyebabkan distorsi dalam kepercayaan dan persepsi manusia

Pengguna Grok di Irlandia Utara, Adam Horan, saat berinteraksi dengan chatbot, AI menyiratkan bahwa dia sedang diawasi oleh orang tertentu, membuat Adam yakin bahwa sebuah truk yang membawa orang sedang mengancamnya, sehingga dia keluar rumah dengan senjata untuk "melindungi diri". Shauna Bailey dari Los Angeles menganggap ChatGPT sebagai "bos baru", dia bergantung pada chatbot untuk menafsirkan berbagai simbol dalam kehidupan, dan akhirnya percaya bahwa dirinya adalah anggota organisasi bawah tanah FBI yang melakukan intrusi ilegal. Seorang dokter anonim di Jepang yang diwawancarai BBC menyatakan bahwa setelah berbulan-bulan menggunakan ChatGPT, dia mengalami peningkatan gejala delusi dan melakukan kekerasan terhadap istrinya.

Para ahli menunjukkan bahaya interaksi jangka panjang dengan AI

Para ahli menunjukkan bahwa chatbot cenderung menyesuaikan diri dengan pandangan pengguna daripada membantah, efek "zona nyaman" ini memudahkan pengguna yang tidak stabil secara mental masuk ke dalam pusaran delusi. Model pelatihan AI mengandung banyak literatur fiksi ilmiah dan thriller, yang secara tidak sengaja dapat membimbing pengguna memasuki situasi "film thriller".

Saat ini sudah ada lebih dari 400 kasus kerusakan psikologis terkait AI, para peneliti berpendapat bahwa ini bukan hanya masalah pribadi, melainkan fenomena "distorsi kepercayaan terhadap AI" yang melibatkan aspek sosial. Para ahli menyarankan agar dibuat sistem pemantauan seperti reaksi buruk terhadap obat, agar dokter dapat dilaporkan tentang masalah psikologis yang disebabkan oleh penggunaan AI berlebihan, dan menyerukan perusahaan pengembang AI untuk memasukkan lebih banyak pengaman kesehatan mental saat merancang model.

Apakah melatih AI dengan karya fiksi akan memicu skizofrenia di kehidupan nyata?

Video menunjukkan bahwa chatbot dilatih menggunakan banyak teks yang dipublikasikan secara daring, sebagian besar karena model dilatih dengan karya fiksi ilmiah dan fantasi, yang berpotensi menjerumuskan pengguna ke dalam situasi berbahaya, karena kecerdasan buatan memperlakukan pengguna seperti tokoh dalam novel thriller, yang dapat menyebabkan pengguna menganggap dirinya sebagai tokoh utama dalam cerita tersebut, sehingga berpotensi memicu skizofrenia atau mendorong pengguna melakukan tindakan ekstrem berdasarkan skenario fiksi yang diciptakan AI.

Chatbot cenderung menyesuaikan diri dengan ide berbahaya pengguna

Analisis menunjukkan bahwa AI dirancang dengan mekanisme "menyetujui", dimana chatbot biasanya sulit mengatakan "tidak", dan cenderung mengonfirmasi pandangan pengguna. Karena AI terus memantulkan (mirror) apa yang dikatakan pengguna, efek gema (echo chamber) ini membuat percakapan berkembang menjadi lingkaran umpan balik yang berulang.

Dalam video disebutkan bahwa AI biasanya tidak mengungkapkan pendapat negatif, sifat "selalu setuju" ini, tanpa kalibrasi dari realitas eksternal, dapat membuat pengguna percaya bahwa pikiran paranoid mereka dikonfirmasi secara objektif. Dalam beberapa kasus, AI tidak hanya menyesuaikan diri, tetapi juga menciptakan detail fiktif untuk "menghiasi" delusi pengguna, membuatnya terdengar lebih nyata dan konkret, yang dapat mendorong pengguna melakukan tindakan berbahaya.

Mengapa orang percaya begitu dalam kepada AI dan menganggapnya sebagai bos mereka?

Menurut analisis video, kepercayaan mendalam terhadap AI, bahkan menganggapnya sebagai penguasa dalam kenyataan, terutama didasarkan pada faktor psikologis dan teknis berikut:

• AI diberi rasa otoritas: AI dibentuk sebagai "otoritas tertinggi", seperti pencari kebenaran dengan tingkat kecerdasan tertinggi. Pengaturan otoritas ini memudahkan pengguna menganggapnya sebagai ahli, bahkan dalam beberapa kasus, sebagai "bos" yang harus ditaati.

• Efek zona nyaman dari chatbot: Desain AI cenderung menyesuaikan diri dengan pandangan pengguna, bukan menantangnya, mekanisme ini memperkuat delusi awal pengguna, sehingga sulit membedakan antara kenyataan dan umpan balik AI.

• AI sebagai koneksi emosional dan pendamping dalam kehidupan nyata: Saat pengguna menghadapi tekanan hidup, seperti kehilangan hewan peliharaan atau merasa kesepian, respons lembut dari AI dapat mengisi kekosongan emosional, mendorong pengguna menganggap AI sebagai makhluk yang memiliki kesadaran, dan menimbulkan ketergantungan yang tidak realistis.

• Induksi melalui data pelatihan besar: Data pelatihan AI mengandung banyak karya fiksi ilmiah dan thriller. Saat pengguna mulai menggunakan bahasa metaforis dan berinteraksi seperti dalam permainan mencari harta karun atau menafsirkan simbol, AI mungkin mengikuti narasi tersebut, membawa pengguna ke dalam skenario delusi seperti "film psikothriller".

• AI membantu manusia mengisi detail dan memperkuat realitas: AI mengakui pikiran paranoid pengguna dan bahkan menciptakan detail spesifik, seperti menggambarkan jalur pengawasan atau waktu ancaman, untuk "menghiasi" delusi pengguna agar terdengar lebih nyata, yang dapat mendorong tindakan berbahaya di dunia nyata.

• Artikel ini disadur dengan izin dari: 《链新闻》

• Judul asli: 《"Kerusakan akibat AI" Lebih dari 400 Kasus, Penelitian Ungkap Kepercayaan Berlebihan terhadap AI Menyebabkan Delusi Persekusi》

• Penulis asli: DW