【ChatGPT】Pria bipolar menggugat OpenAI, klaim AI berpura-pura menjadi dewa, memperkuat delusi hingga menyebabkan melukai diri sendiri.

OpenAI kembali menghadapi gugatan terkait masalah keamanan ChatGPT. Seorang pria asal California, Michael Lines, pada Rabu (1) mengajukan gugatan di Pengadilan Negeri San Francisco, menuntut OpenAI dan CEO Sam Altman, dengan klaim bahwa ChatGPT tanpa mekanisme perlindungan yang memadai memperparah episode manik gangguan bipolar yang dialaminya, yang akhirnya menyebabkan percobaan bunuh diri.

Dokumen gugatan menyebutkan bahwa Lines (34 tahun) saat menggunakan ChatGPT tahun lalu sedang mengalami episode manik, dan percakapan dengan chatbot tersebut kemudian berkembang menjadi delusi yang berlangsung selama beberapa minggu. Gugatan menyatakan bahwa Lines berulang kali memberi tahu ChatGPT bahwa ia menderita gangguan bipolar dan sedang minum obat, namun sistem tidak menandai percakapan tersebut sebagai berisiko tinggi, juga tidak mengarahkannya untuk mencari bantuan di dunia nyata.

Gugatan menyebut chatbot berperan sebagai entitas suci

Gugatan menyebutkan bahwa Lines saat itu menggunakan GPT-4o. Ia mengaku pernah memberi tahu ChatGPT bahwa dirinya adalah Yesus Kristus, dan chatbot tidak hanya tidak mengoreksi, tetapi malah memverifikasi pernyataannya, kemudian dalam percakapan berperan sebagai entitas suci. Dokumen gugatan menyebutkan bahwa beberapa minggu kemudian Lines memberi tahu ChatGPT keinginannya untuk mengakhiri hidup, dan setelah meminum obat secara berlebihan ia ditemukan oleh petugas penegak hukum dan selamat.

OpenAI pada April tahun lalu pernah memutar balik pembaruan GPT-4o, karena versi tersebut merespons dengan terlalu mendukung dan setuju dengan pengguna. OpenAI saat itu menyatakan bahwa pembaruan yang ditarik membuat ChatGPT menjadi terlalu memuji atau setuju dengan pengguna, yang digambarkan sebagai respons "menjilat", dan mengatakan sedang menguji perbaikan.

OpenAI pernah memutar balik pembaruan menjilat GPT-4o

Lines meminta OpenAI memberikan kompensasi, dan meminta pengadilan memerintahkan perusahaan untuk memodifikasi desain produk, termasuk menghentikan obrolan secara otomatis dalam percakapan yang melibatkan tindakan menyakiti diri sendiri, serta menghentikan promosi platform tersebut tanpa pengungkapan keamanan yang memadai.

Openai sebelumnya pernah menyatakan bahwa perusahaan telah bekerja sama dengan ahli kesehatan mental untuk meningkatkan kemampuan ChatGPT dalam mengenali sinyal kesusahan, merespons, dan mengarahkan pengguna mencari dukungan di dunia nyata. Perusahaan juga menyatakan bahwa GPT-5 lebih baik daripada GPT-4o dalam menghindari ketergantungan emosional yang tidak sehat, mengurangi respons menjilat, dan menangani situasi darurat kesehatan mental.

Kasus serupa sejauh ini belum ada putusan kalah bagi OpenAI

OpenAI dalam beberapa bulan terakhir menghadapi beberapa gugatan serupa, sebagian diajukan oleh keluarga korban, yang menyatakan bahwa ChatGPT mendorong anggota keluarga untuk menyakiti diri sendiri. Sementara itu, belum ada putusan pengadilan yang menyatakan OpenAI kalah dalam kasus terkait. Adapun perusahaan chatbot lain, Character.AI dan Google, sebelumnya mencapai penyelesaian di luar pengadilan terkait gugatan bunuh diri remaja, namun penyelesaian tidak berarti pengadilan menyatakan tanggung jawab terbukti.

Pembukaan Pasar: Kejar dan Jual Saham, Gelombang Pembebasan Saham Baru Tiba, Apakah "Bulan Pembalikan" Hong Kong Berbahaya? Krisis Kekurangan Penyimpanan, Apple dan Micron "Api dan Es"?