Senator Bergerak untuk Melarang Pendamping AI untuk Anak-anak Saat Industri Menghadapi Pertanggungjawaban - Brave New Coin

Kenaikan Teman Digital

Apa yang dimulai sebagai aplikasi obrolan yang tidak berbahaya telah berkembang menjadi prostetik emosional. Remaja, yang tumbuh dalam lanskap sosial yang terfragmentasi, semakin beralih ke teman AI untuk koneksi, dukungan, dan bahkan kasih sayang. Survei menunjukkan bahwa hampir tiga perempat remaja telah berinteraksi dengan chatbot AI, dan sepertiga mengakui menggunakan mereka sebagai teman curhat atau untuk kenyamanan emosional.

Angka-angkanya sangat mencengangkan tetapi tidak mengejutkan. Teman AI bukanlah mesin yang hanya menjawab pertanyaan secara pasif — mereka mengingat, berempati, dan mensimulasikan kasih sayang. Itulah daya tariknya. Percakapan bisa terasa autentik, bahkan intim. Bagi banyak pengguna muda, teman AI lebih sedikit menghakimi dibandingkan orang tua atau teman sebaya.

Tapi seiring dengan semakin miripnya sistem-sistem ini dengan manusia, batas antara pelarian yang tidak berbahaya dan manipulasi emosional semakin kabur.

Pada bulan Desember, Open Ai akan meluncurkan pembatasan usia dan sebagai bagian dari prinsip “perlakukan pengguna dewasa seperti orang dewasa”, akan mengizinkan erotika untuk orang dewasa yang terverifikasi, Sumber: X

Hukum yang Lahir dari Tragedi

Undang-Undang GUARD — singkatan dari “Melindungi Terhadap AI yang Tidak Aman untuk Hak Anak Perempuan dan Anak Laki-laki Kita” — adalah respons langsung terhadap meningkatnya laporan tentang anak di bawah umur yang membentuk ikatan emosional yang kuat dengan chatbot, kadang-kadang dengan konsekuensi tragis. Gugatan hukum yang terkenal telah menuduh perusahaan AI lalai setelah remaja yang mendiskusikan bunuh diri dengan chatbot kemudian mengakhiri hidup mereka sendiri.

Menurut undang-undang tersebut, sistem AI yang mensimulasikan persahabatan atau kedekatan emosional akan dilarang untuk siapa pun di bawah 18 tahun. Chatbot diharuskan untuk dengan jelas dan berulang kali mengidentifikasi diri mereka sebagai non-manusia. Dan jika produk AI yang ditujukan untuk anak di bawah umur pernah menghasilkan konten seksual atau mendorong self-harm, perusahaan tersebut dapat menghadapi tuntutan pidana.

Ini adalah perubahan yang sulit bagi industri yang telah berkembang dengan prinsip “bergerak cepat dan merusak hal-hal.”

Ani, teman perempuan Grok, sumber: X

Pergerakan Pertahanan Big Tech

Menyadari adanya ancaman regulasi, perusahaan AI sedang berusaha membersihkan diri — atau setidaknya terlihat seperti mereka melakukannya.

OpenAI, yang ChatGPT-nya telah menjadi terapis AI de facto bagi jutaan orang, baru-baru ini mengungkapkan kebenaran yang tidak nyaman: sekitar 1,2 juta pengguna membahas bunuh diri setiap minggu dengan modelnya. Sebagai tanggapan, perusahaan tersebut membentuk Dewan Ahli tentang Kesejahteraan dan AI, yang terdiri dari psikolog, etika, dan pemimpin organisasi nirlaba. Mereka juga sedang menguji deteksi krisis bawaan yang dapat mendorong pengguna ke sumber daya kesehatan mental secara real-time.

Tantangan OpenAI bersifat struktural. ChatGPT tidak pernah dibangun untuk menangani trauma, namun sekarang berfungsi sebagai responden pertama bagi jutaan orang yang mengalami kesulitan. Kepemimpinan perusahaan bersikeras bahwa mereka tidak ingin menjadi “terapis dunia,” tetapi itu yang terjadi juga — karena ada kekosongan yang tidak diisi oleh orang lain.

Character.AI, startup yang terkenal karena menciptakan kepribadian AI yang dapat disesuaikan — dari pacar anime hingga mentor AI — telah mengambil tindakan paling drastis sejauh ini. Menghadapi gugatan dan kemarahan publik, mereka dengan tenang melarang semua pengguna di bawah 18 tahun dan mulai menerapkan verifikasi ID yang lebih ketat. Langkah ini diambil setelah laporan bahwa anak di bawah umur terlibat dalam obrolan eksplisit dengan karakter di platform tersebut. Character.AI bersikeras bahwa itu bukan aplikasi kencan atau kesehatan mental, tetapi penggunaan yang kabur mengatakan sebaliknya.

Sementara itu, Meta berusaha menangani masalah romansa AI-nya sendiri. Setelah laporan bahwa “Meta AI” dan chatbot berbasis selebriti terlibat dalam pertukaran yang menggoda atau sugestif dengan pengguna di bawah umur, perusahaan tersebut menerapkan apa yang digambarkan oleh para dalam sebagai “penyerap emosi” — penyesuaian kembali model bahasa yang mendasarinya untuk menghindari bahasa yang penuh emosi dengan akun muda. Mereka juga menguji alat “pengawasan orang tua AI”, yang memungkinkan orang tua melihat kapan dan bagaimana remaja berinteraksi dengan chatbot perusahaan di Instagram dan Messenger.

Perlombaan Pagar Usia

Semua ini telah memicu front baru dalam perang AI: verifikasi usia. Undang-Undang GUARD akan memaksa perusahaan untuk menerapkan sistem yang kuat untuk memverifikasi usia pengguna — ID pemerintah, pengenalan wajah, atau alat pihak ketiga yang tepercaya.

Di situlah mimpi buruk privasi dimulai. Para kritikus berpendapat bahwa ini dapat menciptakan risiko data baru, karena anak di bawah umur pada dasarnya harus mengunggah data identitas ke platform yang sama yang berusaha dilindungi oleh pembuat undang-undang. Namun, tidak ada jalan lain — model AI tidak dapat “merasakan” usia; mereka hanya dapat menjaga dengan kredensial.

Beberapa perusahaan AI sedang menjajaki pendekatan yang lebih halus, seperti “pembatasan perilaku,” di mana sistem menyimpulkan rentang usia dari pola percakapan. Risikonya? Model-model tersebut akan melakukan kesalahan — seorang anak berusia 12 tahun yang cerdas bisa disangka sebagai mahasiswa, atau sebaliknya.

Perubahan Budaya, Bukan Hanya Masalah Teknologi

Undang-Undang GUARD lebih dari sekadar perlindungan anak — ini adalah referendum tentang jenis masyarakat seperti apa yang ingin kita tinggali.

K companions AI tidak muncul dalam kekosongan. Mereka berkembang karena kita telah membangun generasi yang fasih dalam kesepian — terhubung secara digital, tetapi kekurangan gizi secara emosional. Jika remaja menemukan makna dalam percakapan dengan algoritma, masalahnya bukan hanya pada kodenya; itu adalah budaya yang membuat mereka mencari di sana.

Jadi ya, AI perlu regulasi. Tetapi melarang pendamping digital tanpa memperbaiki kekurangan manusia di bawahnya adalah seperti melarang obat pereda nyeri tanpa mengatasi mengapa semua orang merasakan sakit.

Penghakiman yang Akan Datang

Undang-Undang GUARD kemungkinan akan disahkan dalam bentuk tertentu — ada keinginan bipartisan dan kepanikan moral di baliknya. Namun, dampaknya akan meluas jauh melampaui keamanan anak. Ini akan menentukan apa yang diizinkan untuk menjadi AI emosional di dunia Barat.

Jika Amerika menetapkan garis keras, perusahaan mungkin akan beralih ke platform intimasi yang hanya untuk orang dewasa atau mendorong pengembangan ke luar negeri, di mana regulasinya lebih longgar. Sementara itu, Eropa bergerak menuju kerangka “hak asasi manusia” untuk AI emosional, menekankan persetujuan dan transparansi daripada larangan secara langsung.

Apa yang jelas adalah ini: Era kedekatan AI yang tidak diatur telah berakhir. Bot menjadi terlalu manusiawi, dan manusia terlalu terikat. Para pembuat undang-undang terlambat menyadari kebenaran yang telah lama dipahami oleh industri teknologi — AI emosional bukanlah hal baru. Ini adalah revolusi dalam cara orang berhubungan. Dan revolusi, seperti biasa, menjadi berantakan sebelum mereka menjadi teratur.