AI akan berperang untuk Amerika sebelum masuk ke kamar tidur

_Versi artikel ini awalnya muncul di newsletter AI & Tech Quartz. Daftar di sini untuk mendapatkan berita, analisis, dan wawasan terbaru tentang AI & teknologi langsung ke kotak masuk Anda.

Amerika memberikan AI kepada Pentagon sebelum memberikannya ke kamar tidur.

Awal tahun ini, OpenAI menandatangani kesepakatan untuk mendukung operasi militer hanya beberapa hari setelah Defense Department mengakhiri kemitraan dengan pesaingnya, Anthropic. Sementara itu, “mode dewasa” untuk ChatGPT, yang memungkinkan percakapan seksual eksplisit untuk orang dewasa yang setuju, masih tertunda.

Dewan penasihat OpenAI tentang kesejahteraan memberontak pada bulan Januari, memperingatkan bahwa fitur tersebut dapat memupuk ketergantungan emosional yang tidak sehat. Mereka mengatakan, anak di bawah umur mungkin menemukan cara untuk mengakalinya, melalui alat verifikasi usia yang dilaporkan salah mengklasifikasikan pengguna di bawah umur.

Dokumen internal menunjukkan bahwa karyawan telah menandai risiko termasuk penggunaan kompulsif dan eskalasi menuju konten yang lebih ekstrem. Penundaan itu sebagian bersifat teknis. Tetapi Amerika selalu lebih nyaman dengan mesin-mesinnya yang membuat perang daripada yang membuat cinta.

Pasar yang terlalu besar untuk diabaikan

Seks membangun internet konsumen. Itu mendorong adopsi web, pembayaran online, streaming video. AI adalah teknologi termahal yang pernah dicoba industri untuk diskalakan, dan saat ini OpenAI menyaksikan perusahaan-perusahaan kecil mengumpulkan uang tersebut sementara mereka duduk menunggu. Keresahan itu nyata, tetapi begitu juga dengan angka-angkanya.

Hampir sepertiga pria dewasa muda mengatakan mereka pernah berbicara dengan pasangan romantis AI. Lebih dari 100 platform kini menawarkan layanan pendamping AI yang berkisar dari yang relatif serius hingga yang secara eksplisit seksual.

Grok milik Elon Musk sudah memiliki mode pendamping dengan tingkat dewasa. Meta $META -3.77% telah mengizinkan chatbot-nya untuk terlibat dalam permainan peran romantis sejak 2023, sebuah pelonggaran pembatasan yang diam-diam didorong oleh eksekutif meskipun keberatan dari pihak internal terkait keamanan.

Sam Altman mengakui secara terbuka tahun lalu bahwa mengizinkan konten eksplisit kemungkinan akan meningkatkan pertumbuhan dan pendapatan. Apa yang dia katakan, dalam napas yang sama, adalah bahwa itu tidak akan melayani kepentingan jangka panjang pengguna.

Sejauh ini, yang kita miliki hanyalah anekdot. Seorang pria di Ohio yang mengatakan bahwa pendamping AI-nya menyelamatkan pernikahannya. Seorang wanita yang menganggap dirinya menikah dengan chatbot-nya. Sebuah forum Reddit $RDDT -4.20% dengan puluhan ribu pengunjung mingguan yang berbagi catatan tentang hubungan digital mereka. Liputan media memperlakukan mereka seperti keingintahuan. Angka-angka menunjukkan mereka mungkin menjadi mayoritas awal.

Perusahaan tahu bahwa ada audiens besar yang bersedia. Mereka kurang yakin bahwa mereka dapat mengendalikan apa yang akan dibangun setelah pintu terbuka.

Beberapa dari apa yang sudah bocor bukanlah area abu-abu. Gadis remaja di Tennessee baru-baru ini mengajukan gugatan terhadap xAI setelah gambar telanjang yang dihasilkan AI dari mereka dibagikan secara online tanpa sepengetahuan mereka dan digunakan untuk barter materi pelecehan seksual anak lainnya.

Uni Eropa membuka penyelidikan formal terhadap Grok atas kekhawatiran serupa awal tahun ini. Peneliti memperkirakan bahwa Grok telah menghasilkan jutaan gambar yang diseksualisasi dalam waktu kurang dari dua minggu, dengan ribuan menggambarkan anak-anak.

Kasus-kasus tersebut sebenarnya tidak terkait dengan konten dewasa sama sekali. Materi pelecehan seksual anak adalah kejahatan. Pertanyaan yang lebih sulit dan kabur adalah apa yang terjadi ketika orang dewasa yang setuju ingin menggunakan alat ini seperti yang mereka lakukan dengan setiap teknologi sebelumnya.

Lebih nyaman dengan bom

Kesenjangan antara bagaimana Amerika memperlakukan seks digital dan kekerasan digital selalu sangat lebar.

Sebuah film dapat menunjukkan tengkorak seorang pria yang hancur dan mendapatkan rating R. Sekilas puting susu memicu sidang kongres. Logika yang sama telah bermigrasi ke dalam kebijakan AI secara default daripada dirancang.

Aplikasi militer AI menghadapi pengawasan etika yang nyata, tetapi tidak dengan rasa jijik yang sama. Pada tahun 2018, karyawan Google $GOOGL -1.65% melakukan pemberontakan atas kontrak visi komputer Pentagon yang disebut Project Maven, memaksa perusahaan untuk mundur. Ketika OpenAI menandatangani kesepakatan Pentagon-nya sendiri tahun ini, tidak ada pemberontakan semacam itu yang muncul. Karyawan yang mengancam keluar adalah bagian dari dewan penasihat, dan mereka keberatan terhadap pembicaraan kotor.

Sebagian dari jawaban ini bersifat struktural. Perusahaan AI membangun kebijakan konten awal mereka pada saat menghindari kontroversi berarti menghindari seks, dan default tersebut mengkristal.

Sebagian lagi adalah naluri Amerika yang terus berlanjut bahwa seks secara inheren berbahaya dan harus dikelola secara ketat, sementara kekerasan, terutama kekerasan resmi, hanyalah biaya menjalankan bisnis.

Bukti tentang pendamping AI campur aduk. Peneliti telah mendokumentasikan nilai terapeutik nyata dalam hubungan chatbot, terutama bagi orang yang menjalani kesepian, berduka, atau disabilitas. Mereka juga mendokumentasikan radikalisasi, delusi, dan tragedi.

Jawaban jujurnya adalah bahwa belum ada yang tahu apa dampak jangka panjang dari paparan AI terhadap orang.

Sementara itu, alat-alat ini tidak diam. Teknologi AI yang sama yang tidak bisa berbicara kotor kepada orang dewasa yang setuju di Ohio sedang digunakan oleh militer Amerika di luar negeri. Tidak ada yang menunggu hal itu.

📬 Daftar untuk Daily Brief

Briefing gratis, cepat, dan menyenangkan tentang ekonomi global, dikirim setiap pagi hari kerja.

Daftarkan saya