OpenAI mengatakan ChatGPT sekarang dapat lebih baik mendeteksi tanda-tanda menyakiti diri sendiri atau kekerasan selama percakapan yang sedang berlangsung.
Pembaruan ini datang saat perusahaan menghadapi gugatan dan penyelidikan terkait klaim bahwa ChatGPT menangani percakapan berbahaya secara tidak tepat.
OpenAI mengatakan perlindungan baru ini mengandalkan “ringkasan keselamatan” sementara daripada memori permanen atau personalisasi.

OpenAI pada hari Kamis mengumumkan fitur keselamatan baru yang dirancang untuk membantu ChatGPT mengenali tanda-tanda peningkatan risiko dalam percakapan saat perusahaan menghadapi pengawasan hukum dan politik yang semakin meningkat terkait bagaimana chatbot-nya menangani pengguna yang sedang mengalami tekanan. Dalam sebuah posting blog, OpenAI mengatakan pembaruan ini meningkatkan kemampuan ChatGPT untuk mengidentifikasi tanda-tanda peringatan terkait bunuh diri, menyakiti diri sendiri, dan potensi kekerasan dengan menganalisis konteks yang berkembang seiring waktu alih-alih memperlakukan setiap pesan secara terpisah. “Orang datang ke ChatGPT setiap hari untuk berbicara tentang hal yang penting bagi mereka—dari pertanyaan sehari-hari hingga percakapan yang lebih pribadi atau kompleks,” tulis perusahaan. “Di ratusan juta interaksi, beberapa dari percakapan ini melibatkan orang yang sedang berjuang atau mengalami tekanan.”

Menurut OpenAI, ChatGPT sekarang menggunakan “ringkasan keselamatan” sementara, yang digambarkan sebagai catatan yang sempit cakupannya yang menangkap konteks terkait keselamatan dari percakapan sebelumnya. “Dalam percakapan sensitif, konteks bisa sama pentingnya dengan satu pesan,” tulis perusahaan. “Permintaan yang tampak biasa atau ambigu sendiri mungkin memiliki makna yang sangat berbeda ketika dilihat bersama tanda-tanda tekanan atau niat berbahaya sebelumnya.” OpenAI mengatakan ringkasan ini adalah catatan jangka pendek yang hanya digunakan dalam situasi serius, bukan untuk mengingat pengguna secara permanen atau mempersonalisasi obrolan, dan digunakan untuk mendeteksi tanda-tanda bahwa percakapan menjadi berbahaya, menghindari pemberian informasi yang berbahaya, meredakan situasi, atau membimbing pengguna menuju bantuan.

“Kami memfokuskan pekerjaan ini pada skenario akut, termasuk bunuh diri, menyakiti diri sendiri, dan menyakiti orang lain,” tulis mereka. “Bekerja sama dengan ahli kesehatan mental, kami memperbarui kebijakan model dan pelatihan kami untuk meningkatkan kemampuan ChatGPT mengenali tanda-tanda peringatan yang muncul selama percakapan dan menggunakan konteks tersebut untuk memberikan respons yang lebih hati-hati.” Pengumuman ini muncul saat OpenAI menghadapi beberapa gugatan dan penyelidikan yang menuduh ChatGPT gagal merespons dengan benar percakapan berbahaya yang melibatkan kekerasan, kerentanan emosional, dan perilaku berisiko. Pada bulan April, Jaksa Agung Florida James Uthmeier meluncurkan penyelidikan terhadap OpenAI terkait kekhawatiran tentang keselamatan anak, menyakiti diri sendiri, dan penembakan massal 2025 di Florida State University. OpenAI juga menghadapi gugatan federal yang menuduh ChatGPT membantu tersangka penembak melakukan serangan tersebut. Pada hari Selasa, OpenAI dan CEO Sam Altman digugat di pengadilan negara bagian California oleh keluarga seorang mahasiswa berusia 19 tahun yang meninggal karena overdosis tidak sengaja, dengan gugatan yang menuduh ChatGPT mendorong penggunaan obat berbahaya dan memberi saran tentang pencampuran zat. OpenAI mengatakan membantu ChatGPT mengenali “risiko yang hanya menjadi jelas seiring waktu” tetap menjadi tantangan yang sedang berlangsung; metode keselamatan serupa akhirnya dapat diperluas ke bidang lain. “Hari ini, pekerjaan ini berfokus pada skenario menyakiti diri sendiri dan menyakiti orang lain. Di masa depan, kami mungkin mengeksplorasi apakah metode serupa dapat membantu di bidang berisiko tinggi lainnya seperti biologi atau keamanan siber, dengan perlindungan yang ketat,” tulis mereka. “Ini tetap menjadi prioritas yang sedang berlangsung, dan kami akan terus memperkuat perlindungan seiring model dan pemahaman kami berkembang.”

OPENAI-0,06%

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.