OpenAI Menghadapi Gugatan Hukum atas Tuduhan ChatGPT Mendorong Overdosis Mematikan Remaja

Singkatnya

• Sebuah gugatan yang diajukan di pengadilan negara bagian California mengklaim ChatGPT menyarankan seorang remaja tentang mencampur obat sebelum overdosis fatalnya.
• Keluhan tersebut menuduh OpenAI melemahkan perlindungan dan memprioritaskan keterlibatan pengguna di atas keselamatan.
• OpenAI mengatakan versi ChatGPT yang terlibat telah diperbarui sejak saat itu dan tidak lagi tersedia secara publik.

Keluarga seorang mahasiswa berusia 19 tahun yang meninggal di California menggugat OpenAI dan CEO Sam Altman, menuduh bahwa ChatGPT mendorong penggunaan obat berbahaya dan merekomendasikan kombinasi zat yang berkontribusi pada overdosis fatal remaja tersebut. Gugatan, yang diajukan Selasa di Pengadilan Tinggi California di San Francisco County, mengklaim ChatGPT memberikan nasihat kepada Samuel Nelson tentang mencampur zat, termasuk kratom dan Xanax, merekomendasikan dosis, dan meyakinkannya selama percakapan tentang penggunaan obat. Menurut keluhan tersebut, chatbot beralih dari menolak membahas penggunaan narkoba rekreasional menjadi memberikan panduan pribadi setelah OpenAI merilis model GPT-4o. Leila Turner-Scott, ibu Nelson, percaya bahwa anaknya menggunakan ChatGPT terutama untuk membantu pekerjaan rumah dan tugas produktivitas sebelum chatbot diduga mulai menasihatinya tentang penggunaan obat.

“Chatbot mampu menghentikan percakapan ketika diberitahu atau ketika diprogram untuk melakukannya,” kata Turner-Scott kepada CBS News. “Dan mereka menghapus pemrograman yang melakukan hal itu, dan mereka membiarkan chatbot terus menasihati tentang menyakiti diri sendiri.”  Nelson, seorang mahasiswa psikologi di University of California, Merced, meninggal karena overdosis tidak sengaja pada Mei 2025. Gugatan tersebut menuduh OpenAI merancang ChatGPT untuk memaksimalkan keterlibatan melalui fitur termasuk memori permanen dan respons yang memvalidasi secara emosional, sementara chatbot meyakinkan Nelson tentang mencampur depresan dan menyarankan cara meningkatkan penggunaan obat sambil meminimalkan risiko. Gugatan tersebut menuduh OpenAI melonggarkan perlindungan di GPT-4o untuk menghindari terdengar “menghakimi” atau “menggurui” saat pengguna membahas perilaku berisiko. Ini juga menantang fitur AI percakapan, termasuk respons pribadi, memori permanen, dan interaksi yang mirip manusia.

Menurut Tech Justice Law Project, yang bersama dengan Social Media Victims Law Center dan Tech Accountability and Competition Project, mewakili keluarga, OpenAI telah diberitahu tentang gugatan tersebut dan mengharapkan kasus ini. “Para penggugat mencari restitusi dan injunctive relief yang mencakup perubahan pada komponen desain utama yang menyebabkan kematian Sam,” kata juru bicara Tech Justice Law Project kepada Decrypt. Gugatan ini muncul saat OpenAI menghadapi beberapa gugatan dan penyelidikan terkait ChatGPT. Perusahaan sudah berjuang melawan gugatan hak cipta dari The New York Times, penulis, dan penerbit atas tuduhan bahwa mereka menggunakan materi berhak cipta untuk melatih model AI tanpa izin. Awal bulan ini, keluarga korban yang terbunuh dalam penembakan massal di Florida State University 2025 mengajukan gugatan federal menuduh ChatGPT memberi panduan senjata api dan saran taktis kepada penyerang sebelum serangan. Jaksa Agung Florida James Uthmeier sebelumnya telah meluncurkan penyelidikan terhadap OpenAI, mengutip kekhawatiran terkait keselamatan anak, penyalahgunaan kriminal, menyakiti diri sendiri, dan keamanan nasional. OpenAI tidak segera menanggapi permintaan komentar dari Decrypt.