OpenAI Menghentikan Peluncuran Fitur Obrolan Dewasa Karena Gagal Verifikasi Usia

OpenAI telah menginjak rem untuk meluncurkan fitur chat dewasa miliknya untuk ChatGPT, dengan menyebut adanya kekurangan kritis dalam teknologi prediksi usia. Menurut data dari NS3.AI, ketidakmampuan sistem untuk membedakan anak di bawah umur secara akurat dari orang dewasa terbukti lebih bermasalah daripada yang semula diperkirakan, dengan salah mengidentifikasi remaja sebagai orang dewasa sekitar 12% dari waktu. Tingkat kegagalan ini langsung memunculkan tanda bahaya mengenai implikasi keselamatan fitur tersebut bagi pengguna yang lebih muda.

Tantangan Verifikasi Usia

Masalah utamanya berkisar pada keterbatasan teknis algoritma prediksi usia. Saat menerapkan fitur yang secara khusus dirancang untuk pengguna dewasa, verifikasi usia yang akurat menjadi sangat penting. Tingkat kesalahan 12% yang ditemukan oleh analis keamanan berarti ribuan pengguna yang masih di bawah umur berpotensi dapat lolos dari perlindungan yang dimaksudkan untuk melindungi mereka. Dewan Ahli OpenAI untuk Kesejahteraan dan AI secara resmi menyoroti kekhawatiran ini pada Januari, memperingatkan bahwa fitur chat dewasa berisiko mengekspos kelompok rentan pada konten atau interaksi yang tidak pantas.

Perlindungan dari Potensi Bahaya

Alih-alih meluncurkan produk yang cacat, OpenAI memilih pendekatan yang hati-hati—menangguhkan sementara inisiatif chat dewasa tersebut sampai teknologi membaik. Keputusan ini menegaskan komitmen perusahaan terhadap penerapan AI yang bertanggung jawab dan perlindungan pengguna. Pilihan ini mencerminkan pengakuan yang lebih luas di industri bahwa bergerak cepat dengan fitur AI dapat membawa risiko yang signifikan, terutama ketika anak di bawah umur terlibat. Dengan menunda peluncuran, OpenAI mengutamakan integritas daripada kecepatan, memastikan bahwa implementasi chat dewasa di masa depan akan memiliki mekanisme verifikasi usia yang lebih kuat.