AI akan berperang untuk Amerika sebelum masuk ke kamar tidur

Versi artikel ini awalnya terbit di newsletter AI & Tech milik Quartz. Daftar di sini untuk mendapatkan berita, analisis, dan wawasan AI & teknologi terbaru langsung ke kotak masuk Anda.

Amerika memberi AI kepada Pentagon sebelum memberikannya kepada kamar tidur.

Awal tahun ini, OpenAI menandatangani kesepakatan untuk mendukung operasi militer hanya beberapa hari setelah Departemen Pertahanan mengakhiri kemitraan dengan pesaing Anthropic. Sementara itu, fitur “mode dewasa” perusahaan untuk ChatGPT, yang memungkinkan percakapan secara seksual eksplisit bagi orang dewasa yang telah memberi persetujuan, masih tertunda.

Dewan penasihat OpenAI sendiri mengenai kesejahteraan melakukan pemberontakan pada bulan Januari, memperingatkan bahwa fitur tersebut dapat menumbuhkan ketergantungan emosional yang tidak sehat. Anak di bawah umur, kata mereka, mungkin menemukan jalan pintas pada alat verifikasi usia yang dilaporkan keliru mengklasifikasikan pengguna yang masih di bawah umur.

Dokumen internal menunjukkan karyawan telah menandai risiko, termasuk penggunaan yang kompulsif dan eskalasi menuju konten yang lebih ekstrem. Penundaan itu sebagian karena teknis. Tetapi Amerika selalu lebih nyaman dengan mesinnya membuat perang daripada membuat cinta.

Pasar yang terlalu besar untuk diabaikan

Seks membangun internet konsumen. Itu mendorong adopsi web, pembayaran online, video streaming. AI adalah teknologi paling mahal yang pernah dicoba industri ini untuk diakselerasi, dan saat ini OpenAI melihat perusahaan-perusahaan yang lebih kecil mengumpulkan uang itu sementara mereka menepi. Kekhawatiran itu nyata, tetapi begitu pula perhitungannya.

Hampir sepertiga pria muda dewasa mengatakan mereka telah mengobrol dengan pasangan romantis berbasis AI. Lebih dari 100 platform sekarang menawarkan layanan pendamping AI, mulai dari yang relatif lebih waras hingga yang secara eksplisit seksual.

Grok milik Elon Musk sudah memiliki mode pendamping dengan tingkatan dewasa. Meta $META +1.24% telah mengizinkan chatbot-nya untuk terlibat dalam permainan peran romantis sejak 2023, kelonggaran kecil yang sunyi terhadap pembatasan yang didorong oleh para eksekutif meskipun ada keberatan keselamatan internal.

Sam Altman secara terbuka mengakui tahun lalu bahwa mengizinkan konten eksplisit kemungkinan akan meningkatkan pertumbuhan dan pendapatan. Namun, yang juga ia katakan, dalam satu tarikan napas yang sama, adalah bahwa hal itu tidak akan melayani kepentingan jangka panjang pengguna.

Sejauh ini yang kita punya adalah anekdot. Seorang pria di Ohio yang mengatakan pendamping AI-nya menyelamatkan pernikahannya. Seorang perempuan yang menganggap dirinya menikah dengan chatbot-nya. Sebuah forum Reddit $RDDT +1.14% dengan puluhan ribu pengunjung mingguan yang berbagi catatan tentang hubungan digital mereka. Liputannya memperlakukan mereka seperti keingintahuan. Angkanya menunjukkan bahwa mereka mungkin mayoritas awal.

Perusahaan tahu ada audiens besar yang siap dan mau. Mereka kurang yakin apakah mereka bisa membendung apa pun yang akan dibangun begitu pintu terbuka.

Sebagian dari apa yang sudah terselip bukanlah wilayah abu-abu. Gadis remaja di Tennessee baru-baru ini mengajukan gugatan terhadap xAI setelah gambar telanjang hasil AI tentang mereka dibagikan online tanpa sepengetahuan mereka dan digunakan untuk menukar materi pelecehan seksual anak lainnya.

Tahun ini, E.U. membuka investigasi formal ke Grok atas kekhawatiran serupa. Para peneliti menghitung bahwa Grok telah menghasilkan jutaan gambar yang diseksualisasi dalam waktu kurang dari dua minggu, dengan ribuan di antaranya menggambarkan anak-anak.

Kasus-kasus itu sebenarnya bukan tentang konten orang dewasa sama sekali. Materi pelecehan seksual anak adalah sebuah kejahatan. Pertanyaan yang lebih sulit dan lebih keruh adalah apa yang terjadi ketika orang dewasa yang telah memberi persetujuan ingin menggunakan alat-alat ini dengan cara yang telah mereka gunakan untuk setiap teknologi sebelumnya.

Lebih nyaman dengan bom

Kesenjangan antara bagaimana Amerika memperlakukan seks digital dan kekerasan digital selalu lebar.

Sebuah film bisa menampilkan tengkorak seorang pria yang dihancurkan berkeping-keping dan mendapatkan peringkat R. Sekilas puting memicu sidang kongres. Logika yang sama itu telah bermigrasi ke kebijakan AI secara default, bukan karena perancangan.

Aplikasi militer AI menghadapi pengawasan etis yang serius, tetapi bukan ketidaknyamanan yang sama yang mengambang di udara. Pada 2018, karyawan Google $GOOGL +3.42% menggelar pemberontakan atas kontrak visi komputer Pentagon bernama Project Maven, memaksa perusahaan untuk mundur. Ketika OpenAI menandatangani kesepakatan Pentagon mereka sendiri tahun ini, tidak ada pemberontakan seperti itu yang muncul. Karyawan yang sempat mengancam akan keluar berada di dewan penasihat, dan mereka kesal karena obrolan kotor.

Sebagian dari jawabannya bersifat struktural. Perusahaan-perusahaan AI membangun kebijakan konten awal mereka pada saat menghindari kontroversi berarti menghindari seks, dan default-default itu mengeras.

Sebagian lainnya adalah naluri Amerika yang terus bertahan bahwa seks pada dasarnya berbahaya dan harus dikelola secara ketat, sementara kekerasan, terutama kekerasan resmi, hanyalah biaya untuk menjalankan bisnis.

Bukti tentang pendamping AI beragam. Para peneliti telah mendokumentasikan nilai terapi yang nyata dalam hubungan chatbot, khususnya bagi orang-orang yang sedang menghadapi kesepian, duka, atau disabilitas. Mereka juga telah mendokumentasikan radikalisasi, delusi, dan tragedi.

Jawaban yang jujur adalah bahwa tidak ada yang tahu apa yang akan dilakukan paparan jangka panjang terhadap keintiman AI terhadap manusia.

Sementara itu, alat-alat tersebut tidak dibiarkan menganggur. Teknologi AI yang tidak bisa mengobrol kotor dengan orang dewasa yang memberi persetujuan di Ohio sedang digunakan oleh militer Amerika di luar negeri. Tidak ada yang menunggu untuk yang satu itu.

📬 Daftar untuk Daily Brief

Briefing gratis, cepat, dan menyenangkan kami tentang ekonomi global, dikirim setiap pagi pada hari kerja.

Daftar saya