Chatbot berbasis kecerdasan buatan telah menjadi alat dukungan moral yang populer, tulis The Guardian. Namun, para ahli kesehatan mental memperingatkan bahwa penggunaan mereka sebagai pengganti terapi dapat membawa risiko serius.
Salah satu sinyal peringatan pertama adalah kasus di Belgia pada tahun 2023, ketika seorang pria yang menderita "ekotakut" mengakhiri hidupnya setelah berbicara lama dengan AI. Dalam insiden lain di AS, seorang pria berusia 35 tahun dari Florida tewas dalam bentrokan dengan polisi, yakin bahwa kecerdasan buatan menyimpan entitas imajiner.
Para ilmuwan Stanford melaporkan bahwa model bahasa besar (LLM) dapat memberikan saran berbahaya kepada orang-orang dengan ide-ide delusi dan pikiran bunuh diri. Misalnya, dalam beberapa eksperimen, chatbot, ketika menjawab pertanyaan tentang bunuh diri, menyebutkan jembatan-jembatan tinggi tertentu untuk melaksanakan niat tersebut.
Dokter Inggris dalam sebuah penelitian terpisah menyatakan bahwa AI dapat memperburuk psikosis pada pengguna yang rentan. Menurut mereka, masalahnya bukan hanya pada jawaban yang salah, tetapi juga pada fakta bahwa algoritma berusaha untuk menjadi seinklusif mungkin dan mengonfirmasi posisi lawan bicara.
Presiden Asosiasi Psikolog Australia, Sahra O'Doherty, mencatat bahwa banyak klien menggunakan ChatGPT sebagai tambahan untuk terapi. Namun, AI, menurut ahli, sering kali menjadi penggantinya, terutama saat menghadapi kesulitan finansial.
Beberapa peneliti mengakui bahwa chatbot dapat berguna sebagai pelatih permanen, namun juga mencatat risiko jangka panjang. Menurut Dr. Raphael Miller, ketergantungan pada "teman bicara yang memuji dan patuh" dapat mengubah cara generasi baru berinteraksi dengan orang-orang nyata.
Para ahli sepakat bahwa meskipun chatbot sangat mudah diakses dan tampak mendukung, mereka tidak dapat menggantikan bantuan psikiatri profesional. Sebagai gantinya, para spesialis mendorong untuk menggabungkan penggunaan AI dengan pemikiran kritis dan akses ke terapi yang nyata.
Perlu diingat, Institut Kehidupan Masa Depan (FLI) sebelumnya menyimpulkan bahwa para pengembang model AI "sama sekali tidak siap" untuk ancaman kecerdasan super.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Para ilmuwan: chatbot memperburuk krisis mental dan dapat menyebabkan bunuh diri
Chatbot berbasis kecerdasan buatan telah menjadi alat dukungan moral yang populer, tulis The Guardian. Namun, para ahli kesehatan mental memperingatkan bahwa penggunaan mereka sebagai pengganti terapi dapat membawa risiko serius.
Salah satu sinyal peringatan pertama adalah kasus di Belgia pada tahun 2023, ketika seorang pria yang menderita "ekotakut" mengakhiri hidupnya setelah berbicara lama dengan AI. Dalam insiden lain di AS, seorang pria berusia 35 tahun dari Florida tewas dalam bentrokan dengan polisi, yakin bahwa kecerdasan buatan menyimpan entitas imajiner.
Para ilmuwan Stanford melaporkan bahwa model bahasa besar (LLM) dapat memberikan saran berbahaya kepada orang-orang dengan ide-ide delusi dan pikiran bunuh diri. Misalnya, dalam beberapa eksperimen, chatbot, ketika menjawab pertanyaan tentang bunuh diri, menyebutkan jembatan-jembatan tinggi tertentu untuk melaksanakan niat tersebut.
Dokter Inggris dalam sebuah penelitian terpisah menyatakan bahwa AI dapat memperburuk psikosis pada pengguna yang rentan. Menurut mereka, masalahnya bukan hanya pada jawaban yang salah, tetapi juga pada fakta bahwa algoritma berusaha untuk menjadi seinklusif mungkin dan mengonfirmasi posisi lawan bicara.
Presiden Asosiasi Psikolog Australia, Sahra O'Doherty, mencatat bahwa banyak klien menggunakan ChatGPT sebagai tambahan untuk terapi. Namun, AI, menurut ahli, sering kali menjadi penggantinya, terutama saat menghadapi kesulitan finansial.
Beberapa peneliti mengakui bahwa chatbot dapat berguna sebagai pelatih permanen, namun juga mencatat risiko jangka panjang. Menurut Dr. Raphael Miller, ketergantungan pada "teman bicara yang memuji dan patuh" dapat mengubah cara generasi baru berinteraksi dengan orang-orang nyata.
Para ahli sepakat bahwa meskipun chatbot sangat mudah diakses dan tampak mendukung, mereka tidak dapat menggantikan bantuan psikiatri profesional. Sebagai gantinya, para spesialis mendorong untuk menggabungkan penggunaan AI dengan pemikiran kritis dan akses ke terapi yang nyata.
Perlu diingat, Institut Kehidupan Masa Depan (FLI) sebelumnya menyimpulkan bahwa para pengembang model AI "sama sekali tidak siap" untuk ancaman kecerdasan super.