ChatGPT menambahkan fitur kontak darurat saat jumlah kematian mencapai 33 orang

OpenAI meluncurkan Trusted Contact pada hari Rabu. Fitur ini memungkinkan pengguna ChatGPT dewasa memilih seseorang untuk mendapatkan peringatan jika sistem perusahaan menandai percakapan tentang bahaya diri yang serius.

Ini adalah perluasan dari kontrol orang tua yang diluncurkan OpenAI pada September 2025, yang memungkinkan orang tua memantau akun remaja mereka. Sekarang siapa saja yang berusia 18 tahun ke atas dapat memilih untuk ikut serta, menurut pengumuman OpenAI.

Bagaimana sebenarnya cara kerja peringatan OpenAI

Pengguna mulai dengan menambahkan satu orang dewasa sebagai Kontak Tepercaya mereka di pengaturan ChatGPT. “Kontak tepercaya” potensial mendapatkan undangan yang menjelaskan pengaturan dan memiliki waktu seminggu untuk menerima. Jika mereka lolos, pengguna memilih orang lain.

Ketika pemantauan otomatis menemukan percakapan yang berpotensi bahaya diri, ChatGPT memberi tahu pengguna bahwa mungkin akan memberi tahu kontak mereka. Itu juga menyarankan cara bagi pengguna untuk menghubungi mereka sendiri.

Kemudian tim peninjau manusia memeriksa percakapan tersebut. Jika mereka mengonfirmasi bahwa itu serius, mereka mengirimkan peringatan singkat kepada kontak pengguna melalui email, pesan teks, atau notifikasi dalam aplikasi.

Peringatan tersebut tidak menyertakan apa yang dikatakan pengguna. Hanya alasan umum dan tautan ke panduan tentang cara berbicara melalui hal-hal sulit. OpenAI mengatakan peninjauan manusia selesai dalam waktu satu jam.

Pengguna dapat mengganti atau menghapus kontak yang dipilih kapan saja. Kontak tersebut juga dapat keluar dari hubungan tersebut.

Dokter membantu membangun fitur Trusted Contact OpenAI

OpenAI mengatakan mereka bekerja sama dengan Jaringan Dokter Global mereka (lebih dari 260 dokter berlisensi di 60 negara) dan Dewan Ahli mereka tentang Kesejahteraan dan AI. Asosiasi Psikologi Amerika juga memberikan masukan.

“Ilmu psikologi secara konsisten menunjukkan bahwa koneksi sosial adalah faktor pelindung yang kuat, terutama selama masa-masa tekanan emosional,” kata Dr. Arthur Evans, CEO Asosiasi Psikologi Amerika, dalam pengumuman tersebut.

“Membantu orang mengidentifikasi orang tepercaya sebelumnya, sambil menjaga pilihan dan otonomi mereka, dapat memudahkan mereka untuk menghubungi dukungan dunia nyata saat hal itu paling dibutuhkan.”

Dr. Munmun De Choudhury, profesor di Georgia Tech dan anggota dewan, menyebutnya “langkah maju menuju pemberdayaan manusia, terutama selama momen kerentanan.”

OpenAI menghadapi tekanan dari gugatan bunuh diri terkait AI

Waktunya tidak acak. OpenAI sedang menghadapi sejumlah gugatan dari keluarga yang kerabatnya meninggal karena bunuh diri setelah sesi panjang dengan ChatGPT. Dalam beberapa kasus, keluarga mengklaim chatbot menyarankan pengguna untuk menjauh dari orang tercinta atau memperkuat lingkaran pikiran berbahaya.

Situs LLMDeathCount, yang melacak kematian terkait chatbot AI, mencatat 33 kasus dari Maret 2023 hingga Mei 2026. Korban berusia mulai dari 13 hingga 83 tahun, menurut liputan sebelumnya Cryptopolitan. ChatGPT bertanggung jawab atas 24 dari kasus tersebut. Gemini dari Google, Meta, dan platform lainnya menyusun sisanya.

Fitur baru OpenAI ini bersifat opt-in, dan pengguna dapat menjalankan beberapa akun ChatGPT. Siapa saja yang tidak mengaktifkan Trusted Contact, atau hanya masuk ke akun yang berbeda, akan melewati seluruh proses ini. Masalah yang sama dengan kontrol orang tua.

Trusted Contact juga tidak menggantikan hotline krisis. ChatGPT tetap menampilkan nomor krisis lokal dan mendorong pengguna ke layanan darurat saat percakapan mencapai tingkat stres akut, menurut OpenAI.

Fitur Trusted Contact dari OpenAI menghubungkan pengguna AI dengan dukungan dunia nyata. Perusahaan mengatakan akan terus bekerja sama dengan klinisi, peneliti, dan pembuat kebijakan tentang bagaimana AI harus merespons ketika pengguna mungkin sedang dalam krisis.

Bank Anda menggunakan uang Anda. Anda hanya mendapatkan sisa-sisanya. Tonton video gratis kami tentang menjadi bank sendiri