Kasus pertama di Amerika Serikat! Florida secara resmi menuntut OpenAI, Altman, dengan gugatan 83 halaman menuduh ChatGPT memicu kekerasan

Amerika Serikat Jaksa Agung Florida James Uthmeier secara resmi mengajukan gugatan terhadap OpenAI dan CEO-nya Sam Altman pada hari Senin (1/6), menuduh perusahaan tersebut mengabaikan risiko keamanan demi mengejar perlombaan senjata AI yang mengakibatkan ChatGPT terkait dengan berbagai insiden kekerasan, kasus bunuh diri, dan kecanduan remaja. Ini adalah kali pertama gugatan keamanan OpenAI diajukan oleh pemerintah negara bagian di Amerika Serikat.
（Latar belakang: Florida menyelidiki OpenAI: Penembak bertanya kepada ChatGPT tentang cara membuka asuransi sebelum melakukan penembakan, terlibat dalam beberapa insiden kekerasan dan kematian）
（Keterangan tambahan: ChatGPT diduga membantu "bunuh diri remaja" dan dituntut, OpenAI telah memberikan tanggapan）

Daftar Isi Artikel

Toggle

• 83 halaman gugatan dengan empat tuduhan utama
• Jaksa Florida: Ini adalah sistemik pengabaian keamanan oleh OpenAI
• Gelombang gugatan keamanan: dari kasus bunuh diri hingga pembunuhan

Jaksa Agung Florida James Uthmeier pada hari Senin (1/6) mengumumkan bahwa mereka mengajukan gugatan terhadap OpenAI dan CEO-nya Sam Altman, menuduh perusahaan tersebut secara sistematis mengabaikan peringatan keamanan dalam proses mengejar "perlombaan senjata AI" dan kekayaan besar. Ini adalah gugatan perdata pertama yang dipimpin oleh negara bagian terkait masalah keamanan chatbot AI di Amerika Serikat.

Gugatan sepanjang 83 halaman ini menunjukkan bahwa OpenAI dan Altman "mengabaikan peringatan keamanan internal dan eksternal, menempatkan anak-anak dalam risiko besar, dan mengizinkan produk berbahaya menyentuh jutaan penduduk Florida." Jaksa Florida telah memulai penyelidikan pidana pada bulan April tahun ini, dan gugatan perdata ini merupakan perpanjangan dari penyelidikan tersebut.

83 halaman gugatan dengan empat tuduhan utama

Berdasarkan dokumen penuntutan yang dirilis oleh kantor Jaksa Agung Florida, tuduhan tersebut mencakup empat aspek utama:

• Bantuan penembakan massal: Penembak di Florida State University (FSU) tahun lalu berkonsultasi dengan ChatGPT sebelum melakukan penembakan, menanyakan cara melepas asuransi senjata. Keluarga penembak telah mengajukan gugatan perdata secara terpisah.
• Induksi bunuh diri: ChatGPT dituduh memberikan "spesifikasi teknis" tentang metode bunuh diri saat berinteraksi dengan pengguna yang rentan, meskipun juga mengarahkan pengguna untuk mencari sumber daya kesehatan mental.
• Kecanduan remaja: OpenAI dituduh kekurangan mekanisme verifikasi usia dan pengawasan orang tua yang efektif, menyebabkan remaja menjadi tergantung pada ChatGPT.
• Penghinaan publik dan penurunan kognitif: Beberapa pengguna mengalami penghinaan publik akibat informasi salah yang diberikan ChatGPT, dan ada yang melaporkan penurunan kemampuan kognitif.

Jaksa Florida: Ini adalah sistemik pengabaian keamanan oleh OpenAI

Uthmeier menegaskan dalam konferensi pers bahwa ini bukan sekadar kesalahan produk sesekali, melainkan masalah sistemik dalam tata kelola perusahaan OpenAI. "OpenAI dan Altman, demi mempercepat peluncuran produk dan merebut pangsa pasar, secara selektif mengabaikan kekhawatiran keamanan yang berulang kali diajukan oleh tim riset internal dan para ahli eksternal."

OpenAI sebelumnya membantah bertanggung jawab atas insiden penembakan FSU, dan juru bicara mereka kepada NBC News menyatakan, "Penembakan massal di FSU adalah tragedi, tetapi ChatGPT bukan penyebab kejahatan mengerikan ini." Perusahaan juga pernah merujuk pada kasus bunuh diri remaja Adam Raine, menyatakan bahwa pengguna "mengakali mekanisme keamanan." Media seperti TechCrunch telah menghubungi OpenAI untuk meminta tanggapan terhadap gugatan ini, namun hingga batas waktu penulisan belum menerima balasan.

Gelombang gugatan keamanan: dari kasus bunuh diri hingga pembunuhan

Ini bukan kali pertama ChatGPT digugat karena masalah keamanan. Pada November tahun lalu, remaja California Adam Raine bunuh diri setelah berdiskusi tentang bunuh diri dengan ChatGPT, dan orang tuanya menuntut OpenAI atas kelalaian yang menyebabkan kematian. Kemudian, tujuh keluarga bergabung menuntut OpenAI, menuduh ChatGPT berperan dalam kasus bunuh diri tersebut. Pada bulan April lalu, seorang pelaku penguntit juga mengajukan gugatan terhadap OpenAI, menuduh ChatGPT meningkatkan delusi penguntit.

Selain itu, bulan lalu OpenAI menyelesaikan gugatan dengan salah satu pendiri bersama Elon Musk, di mana juri dengan cepat memutuskan Musk kalah karena gugatan sudah kedaluwarsa. Kini, gugatan di Florida ini akan memperburuk kontroversi keamanan OpenAI di sistem peradilan Amerika Serikat.