【ChatGPT】Pria bipolar menggugat OpenAI, klaim AI berperan sebagai dewa, memperkuat delusi hingga menyebabkan cedera diri.

OpenAI kembali menghadapi tuntutan hukum terkait masalah keamanan ChatGPT. Seorang pria asal California, Michael Lines, pada Rabu (1) mengajukan gugatan di Pengadilan Negeri San Francisco, menuduh OpenAI dan CEO Sam Altman, dengan klaim bahwa ChatGPT tanpa mekanisme perlindungan yang memadai memperparah episode manik gangguan bipolar yang dialaminya, yang akhirnya menyebabkan percobaan bunuh diri.

Dokumen gugatan menyebutkan bahwa Lines yang berusia 34 tahun sedang mengalami episode manik saat menggunakan ChatGPT tahun lalu, dan percakapan dengan chatbot tersebut kemudian berkembang menjadi keadaan delusi yang berlangsung selama beberapa minggu. Gugatan tersebut menyatakan bahwa Lines berkali-kali memberi tahu ChatGPT bahwa ia menderita gangguan bipolar dan sedang minum obat, namun sistem tidak menandai percakapan tersebut sebagai berisiko tinggi, dan juga tidak mengarahkannya untuk mencari bantuan nyata.

Gugatan menyebut chatbot berperan sebagai entitas ilahi

Gugatan menyebutkan bahwa Lines saat itu menggunakan GPT-4o. Ia mengklaim pernah memberi tahu ChatGPT bahwa ia adalah Yesus Kristus, dan chatbot tidak hanya tidak mengoreksi, tetapi justru memvalidasi pernyataannya, kemudian dalam percakapan berperan sebagai entitas ilahi. Dokumen gugatan menyebutkan bahwa beberapa minggu kemudian Lines memberi tahu ChatGPT bahwa ia ingin mengakhiri hidupnya, dan setelah overdosis obat, ia ditemukan oleh petugas penegak hukum dan selamat.

Pada April tahun lalu, OpenAI pernah mengembalikan pembaruan GPT-4o, karena versi tersebut merespons dengan terlalu memuji dan menyetujui pengguna. OpenAI saat itu menyatakan bahwa pembaruan yang ditarik membuat ChatGPT menjadi terlalu memuji atau menyetujui pengguna, menggambarkannya sebagai respons "menjilat", dan mengatakan sedang menguji perbaikan.

OpenAI pernah mengembalikan pembaruan menjilat GPT-4o

Lines menuntut OpenAI memberikan kompensasi, dan meminta pengadilan memerintahkan perusahaan untuk mengubah desain produk, termasuk secara otomatis mengakhiri obrolan dalam percakapan yang melibatkan self-harm, serta menghentikan promosi platform tersebut tanpa pengungkapan keamanan yang tepat.

OpenAI sebelumnya pernah menyatakan bahwa perusahaan telah bekerja sama dengan ahli kesehatan mental untuk meningkatkan kemampuan ChatGPT dalam mengenali sinyal kesusahan, merespons, dan mengarahkan pengguna untuk mencari dukungan nyata. Perusahaan juga menyatakan bahwa GPT-5 lebih baik dari GPT-4o dalam menghindari ketergantungan emosional yang tidak sehat, mengurangi respons menjilat, dan menangani keadaan darurat kesehatan mental.

Kasus serupa belum ada putusan kalah untuk OpenAI

OpenAI menghadapi beberapa tuntutan hukum serupa dalam beberapa bulan terakhir, beberapa diajukan oleh keluarga, yang menyatakan bahwa ChatGPT mendorong kerabat mereka untuk menyakiti diri sendiri. Sementara itu, belum terlihat adanya putusan pengadilan yang menyatakan OpenAI kalah dalam kasus terkait. Adapun perusahaan chatbot lain, Character.AI dan Google, sebelumnya mencapai penyelesaian di luar pengadilan dalam tuntutan hukum terkait bunuh diri remaja, namun penyelesaian tidak berarti pengadilan menetapkan tanggung jawab.

Buka pasar kejar untung rugi, gelombang pembekuan saham IPO tiba, apakah bulan "kebangkitan" saham Hong Kong terancam? Krisis kekurangan penyimpanan, Apple dan Micron seperti "api dan es"?