ChatGPT memasuki pasar dewasa! Dialog erotis akan dibuka pada bulan Desember, OpenAI melakukan verifikasi ganda untuk memastikan keamanan.

CEO OpenAI Sam Altman mengumumkan bahwa ChatGPT akan membuka konten erotis untuk pengguna dewasa yang telah terverifikasi mulai bulan Desember, kebijakan "memperlakukan orang dewasa sebagai orang dewasa" ini menggoyahkan pemikiran konservatif perusahaan teknologi, tekanan kompetisi xAI dan kebutuhan monetisasi bisnis mendorong pergeseran liberalisasi industri AI.

Altman pernyataan berat: Orang dewasa tidak seharusnya diperlakukan seperti anak-anak

Silicon Valley sekali lagi memicu kontroversi. CEO OpenAI Sam Altman pada 14 Oktober mengeluarkan pernyataan besar di platform media sosial X, bahwa ChatGPT akan membuka akses untuk pembuatan konten erotis kepada pengguna dewasa yang telah terverifikasi mulai bulan Desember. Penyesuaian kebijakan ini memecahkan posisi konservatif raksasa teknologi terhadap sensor konten di masa lalu, dan membuat industri AI terjebak dalam tarik menarik antara kebebasan dan regulasi.

Menurut laporan Reuters, Altman dengan jelas menyatakan dalam postingan: "Seiring dengan pelaksanaan batas usia yang lebih komprehensif, dan sebagai bagian dari prinsip 'perlakukan pengguna dewasa seperti orang dewasa', kami akan mengizinkan lebih banyak konten, seperti konten pornografi untuk orang dewasa yang telah terverifikasi." Pernyataan ini segera menarik perhatian media teknologi global, keputusan ChatGPT untuk memasuki pasar dewasa menjadi fokus industri.

Altman menjelaskan bahwa sebelumnya OpenAI menerapkan "batasan yang cukup ketat" pada ChatGPT, terutama untuk menangani risiko yang mungkin dihadapi oleh pengguna dengan kesehatan mental yang rentan. Namun, mekanisme penyaringan yang intens ini juga membuat sebagian besar pengguna dewasa yang tidak memiliki masalah kesehatan mental merasa "tidak nyaman" bahkan "tidak menarik". Dia menekankan dalam memo internalnya: "Memperlakukan orang dewasa sebagai orang dewasa adalah kunci pengalaman produk kami di tahap berikutnya."

Dari Penutupan Total ke Pembukaan Bertahap: Pergeseran Strategis yang Besar

Pengumuman resmi OpenAI menunjukkan bahwa inti dari kebijakan baru adalah "pembukaan bertahap" dan bukan "pembebasan total". Selama dua tahun terakhir, ChatGPT telah menetapkan standar penyaringan konten yang sangat tinggi untuk menghindari pemicu konten sensitif atau merangsang kelompok yang rentan. Strategi "lebih baik salah bunuh" ini meskipun mengurangi kontroversi, tetapi juga membatasi kegunaan produk dan daya tarik pengguna.

Altman menyatakan bahwa OpenAI telah mengumpulkan cukup kemampuan teknis untuk mengatasi masalah kesehatan mental yang mungkin timbul dari percakapan berisiko tinggi, dan memiliki alat keamanan baru. Kemajuan teknis ini memberikan kepercayaan kepada tim untuk sebagian besar situasi dapat dengan aman melonggarkan pembatasan, sambil memadukan opsi emotikon dan nada manusiawi yang akan segera diluncurkan, sehingga ChatGPT lebih mendekati interaksi manusia yang nyata.

Dalam beberapa minggu ke depan, OpenAI akan merilis versi baru ChatGPT yang memungkinkan pengguna lebih menentukan nada dan kepribadian chatbot. Altman menjelaskan: "Jika Anda ingin ChatGPT Anda merespons dengan cara yang sangat manusiawi, atau menggunakan banyak emotikon, atau bertindak seperti teman, ChatGPT seharusnya bisa melakukannya—tetapi dengan syarat Anda ingin melakukannya, bukan karena kami memaksimalkan tingkat penggunaan." Desain personalisasi ini berjalan seiring dengan kebijakan konten dewasa yang terbuka, bersama-sama membentuk strategi peningkatan pengalaman pengguna OpenAI.

Dua Lapisan Perlindungan: Verifikasi Usia dan Kontrol Orang Tua

Untuk mencegah konten dewasa bocor ke tangan remaja, OpenAI akan menerapkan dua lapisan pertahanan. Pertama adalah sistem verifikasi usia, yang akan mengintegrasikan pencocokan fitur perilaku dengan dokumen identifikasi jika diperlukan. Sistem akan menyelesaikan pencocokan usia manusia sebelum membuka konten dewasa, memastikan hanya orang dewasa yang terverifikasi yang dapat mengakses fungsi terkait.

Selanjutnya adalah fitur kontrol orang tua. Versi remaja ChatGPT yang diluncurkan pada bulan September tahun ini sudah secara default memblokir pembangkitan gambar dan topik terkait seks. Orang tua juga dapat menghubungkan akun mereka dengan akun anak-anak mereka, mengatur batasan waktu penggunaan atau memicu pemberitahuan peringatan. Desain ini menerapkan prinsip "manajemen tersegmentasi" alih-alih "penutupan secara menyeluruh."

Namun, keefektifan mekanisme verifikasi usia masih dipertanyakan. Pengalaman dari berbagai situs dewasa di masa lalu menunjukkan bahwa remaja sering kali dapat menghindari sistem verifikasi dengan berbagai cara. Jika ChatGPT memasuki pasar dewasa dan mekanisme verifikasi gagal, OpenAI tidak hanya mungkin menghadapi tuntutan hukum dan denda besar, tetapi juga kepercayaan perusahaan dan citra merek akan sangat terpengaruh.

Tekanan Persaingan: Ancaman dari xAI dan Startup AI Dewasa

Persaingan industri adalah faktor penting yang mendorong pergeseran kebijakan OpenAI. xAI yang didirikan oleh Elon Musk telah mengutamakan layanan pasangan AI, menekankan "koneksi emosional" dan fitur percakapan dewasa, menarik banyak pengguna yang mencari interaksi yang lebih bebas. Selain itu, perusahaan rintisan seperti Character.AI, Replika, dan lainnya juga ikut terjun ke pasar konten dewasa interaktif, dengan beberapa layanan bahkan tidak memiliki batasan konten sama sekali.

Dalam lingkungan kompetisi seperti ini, jika OpenAI mempertahankan pemeriksaan yang ketat, mungkin akan berada dalam posisi yang tidak menguntungkan dalam hal tingkat aktivitas pengguna dan model pendapatan. Beberapa investor secara langsung mengatakan "AI yang membosankan sulit untuk dimonetisasi," yang mengisyaratkan bahwa OpenAI perlu menemukan keseimbangan antara daya tarik produk dan keuntungan bisnis. Keputusan Altman adalah respons terhadap realitas komersialisasi ini.

Perlu dicatat bahwa Meta meluncurkan filter konten yang terinspirasi oleh sistem penilaian film PG-13 pada hari yang sama, untuk membatasi konten yang dapat dilihat oleh pengguna di bawah 18 tahun di Instagram dan alat AI generatifnya. Ini menunjukkan bahwa raksasa teknologi ini bergerak menuju "manajemen pengkategorian" daripada mempertahankan satu standar tunggal.

Kabut Regulasi: Legislasi yang Tidak Jelas, Batas Etika yang Kabur

Kebijakan ChatGPT untuk memasuki pasar dewasa telah muncul, diikuti oleh pertanyaan tentang regulasi. Kongres Amerika Serikat sedang membahas undang-undang yang membatasi akses anak di bawah umur terhadap pasangan AI, tetapi Gubernur California, Gavin Newsom, baru saja memveto rancangan serupa bulan lalu, menunjukkan bahwa arah regulasi belum diputuskan.

Masalah yang lebih kompleks adalah bahwa definisi "konten dewasa" itu kabur. Sejauh mana percakapan dianggap sebagai "konten dewasa"? Bagaimana garis batas antara percakapan romantis, diskusi pendidikan seks, dan deskripsi hasrat? Pertanyaan-pertanyaan ini tidak memiliki jawaban standar, yang dapat menyebabkan kontroversi dan risiko hukum saat pelaksanaannya.

Selain itu, risiko kesehatan mental sulit untuk diukur. Meskipun Altman mengklaim telah ada teknologi yang dapat meredakan, masih kurang penelitian yang memadai tentang apakah penggunaan AI untuk percakapan erotis dalam jangka panjang akan memengaruhi hubungan antarpersonal yang nyata, apakah itu akan memperburuk perasaan kesepian atau perilaku kecanduan. Jika di masa depan muncul kasus negatif, OpenAI mungkin menghadapi tekanan ganda dari opini publik dan badan regulasi.

Demo Silicon Valley: Teknologi Selalu Mendahului Kontroversi Etika

Keputusan ChatGPT untuk memasuki pasar dewasa tampaknya hanya merupakan penyesuaian fungsi produk tunggal, tetapi sebenarnya berkaitan dengan keseimbangan keseluruhan antara posisi pasar perusahaan AI, kepentingan bisnis, dan tanggung jawab sosial. Kasus ini sekali lagi menunjukkan pola khas Silicon Valley: pertama meluncurkan produk atau fungsi, kemudian menghadapi masalah etika dan hukum yang muncul.

Dalam beberapa bulan ke depan, efektivitas mekanisme verifikasi usia ChatGPT, umpan balik pengguna, dan apakah ada kasus penyalahgunaan, akan menjadi indikator kunci untuk menguji kebijakan ini. Jika OpenAI dapat berhasil menyeimbangkan kebebasan dan keamanan, ini bisa menetapkan standar baru untuk "manajemen berperingkat" di seluruh industri AI; tetapi jika pelaksanaannya gagal, ini juga bisa memicu undang-undang regulasi yang lebih ketat, mempengaruhi arah perkembangan seluruh industri.

Bagaimanapun juga, keputusan ChatGPT untuk memasuki pasar dewasa menandai kematangan dan pendalaman komersialisasi industri AI. Ketika AI tidak lagi hanya sekadar alat, tetapi mulai terlibat dalam ranah emosi dan keinginan manusia, batasan etika teknologi akan menghadapi ujian yang belum pernah terjadi sebelumnya. Silicon Valley sekali lagi menunjukkan: kecepatan kemajuan teknologi selalu berada di depan kontroversi etika.