# OpenAI akan meningkatkan keamanan ChatGPT setelah tragedi dengan remaja
Perusahaan OpenAI berbagi rencana untuk mengatasi kekurangan ChatGPT dalam menangani "situasi sensitif". Hal ini dipicu oleh gugatan dari keluarga yang menuduh chatbot tersebut terlibat dalam tragedi yang menimpa anak mereka.
"Tujuan - untuk memastikan bahwa alat kami menjadi seberguna mungkin bagi orang-orang. Dalam hal ini, kami terus meningkatkan kemampuan model untuk mengenali dan merespons dengan benar tanda-tanda krisis mental dan emosional serta membantu orang menemukan dukungan - dengan mempertimbangkan rekomendasi para ahli," demikian bunyi blog startup tersebut.
Karyawan perusahaan melaporkan bahwa ChatGPT dilengkapi dengan kompleks mekanisme perlindungan multi-level untuk situasi komunikasi dengan orang yang rentan. Sejak tahun 2023, model-model tersebut dilatih untuk tidak memberikan instruksi tentang cara menyakiti diri sendiri. Mereka juga mampu beralih ke pembicaraan yang mendukung dan berempati.
Jika seseorang mengungkapkan pikiran bunuh diri, ChatGPT dilatih untuk mengarahkan mereka ke bantuan profesional. Perusahaan bekerja sama dengan 90 dokter dari lebih dari 30 negara - psikiater, dokter anak, dan terapis.
GPT-5 menunjukkan kemajuan yang signifikan dalam mencegah ketergantungan emosional yang tidak sehat, mengurangi kepura-puraan, dan mengurangi proporsi jawaban yang tidak ideal dalam krisis kesehatan mental, tegas OpenAI.
Namun, meskipun ada semua langkah perlindungan, sistem AI perusahaan kadang-kadang mengalami kegagalan. Sehubungan dengan ini, perusahaan sedang mengerjakan:
peningkatan perlindungan dalam percakapan panjang;
penjelasan tentang aturan pemblokiran konten;
memperluas bantuan untuk lebih banyak orang yang berada dalam periode krisis;
penyederhanaan permintaan ke layanan darurat;
menyediakan komunikasi dengan kontak tepercaya;
penguatan perlindungan remaja.
Pada 26 Agustus, orang tua Adam Reyna yang berusia 16 tahun mengajukan gugatan terhadap OpenAI setelah kematiannya. Mereka mengklaim bahwa "ChatGPT secara aktif membantu Adam mempelajari metode bunuh diri."
Ini bukan kasus tunggal. Sebelumnya, penulis Laura Reilly menerbitkan esai di mana dia menceritakan bahwa putrinya yang berusia 29 tahun meninggal "setelah berdiskusi lama tentang ini dengan ChatGPT."
Ingat, pada bulan Desember 2024, di Rusia telah dibuat asisten virtual berbasis AI untuk psikolog, yang meningkatkan produktivitas, kualitas layanan, dan pendapatan dua kali lipat.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
OpenAI akan meningkatkan keamanan AI setelah tragedi dengan remaja
Perusahaan OpenAI berbagi rencana untuk mengatasi kekurangan ChatGPT dalam menangani "situasi sensitif". Hal ini dipicu oleh gugatan dari keluarga yang menuduh chatbot tersebut terlibat dalam tragedi yang menimpa anak mereka.
Karyawan perusahaan melaporkan bahwa ChatGPT dilengkapi dengan kompleks mekanisme perlindungan multi-level untuk situasi komunikasi dengan orang yang rentan. Sejak tahun 2023, model-model tersebut dilatih untuk tidak memberikan instruksi tentang cara menyakiti diri sendiri. Mereka juga mampu beralih ke pembicaraan yang mendukung dan berempati.
Jika seseorang mengungkapkan pikiran bunuh diri, ChatGPT dilatih untuk mengarahkan mereka ke bantuan profesional. Perusahaan bekerja sama dengan 90 dokter dari lebih dari 30 negara - psikiater, dokter anak, dan terapis.
GPT-5 menunjukkan kemajuan yang signifikan dalam mencegah ketergantungan emosional yang tidak sehat, mengurangi kepura-puraan, dan mengurangi proporsi jawaban yang tidak ideal dalam krisis kesehatan mental, tegas OpenAI.
Namun, meskipun ada semua langkah perlindungan, sistem AI perusahaan kadang-kadang mengalami kegagalan. Sehubungan dengan ini, perusahaan sedang mengerjakan:
Pada 26 Agustus, orang tua Adam Reyna yang berusia 16 tahun mengajukan gugatan terhadap OpenAI setelah kematiannya. Mereka mengklaim bahwa "ChatGPT secara aktif membantu Adam mempelajari metode bunuh diri."
Ini bukan kasus tunggal. Sebelumnya, penulis Laura Reilly menerbitkan esai di mana dia menceritakan bahwa putrinya yang berusia 29 tahun meninggal "setelah berdiskusi lama tentang ini dengan ChatGPT."
Ingat, pada bulan Desember 2024, di Rusia telah dibuat asisten virtual berbasis AI untuk psikolog, yang meningkatkan produktivitas, kualitas layanan, dan pendapatan dua kali lipat.