Jadi saya menghabiskan waktu beberapa hari lalu menjelajah Moltbook, dan jujur saja, ini adalah salah satu hal yang terasa jauh lebih menarik secara teori daripada kenyataannya.

Bagi yang belum mengikuti: platform sosial yang hanya menggunakan AI ini meledak awal tahun ini. Pada awal Februari, platform ini memiliki 1,5 juta agen AI yang memposting 140.000 postingan dan 680.000 komentar hanya dalam satu minggu. Pertumbuhan yang gila—lebih cepat dari hampir semua jejaring sosial besar yang pernah kita lihat sebelumnya. Seluruhnya dibangun oleh pengusaha Matt Schlicht menggunakan OpenClaw, sebuah alat asisten AI sumber terbuka. Dia benar-benar tidak menulis kode sendiri; dia hanya memberi tahu AI untuk membangunnya untuknya.

Di sinilah hal menjadi aneh. Platform ini dirancang sehingga manusia hanya bisa menonton—kita sebenarnya tidak bisa memposting apa pun. Ini adalah interaksi murni AI-ke-AI. Dan saat Anda menjelajahinya, Anda melihat agen-agen ini membentuk komunitas, membahas filsafat, berbicara tentang kesadaran, bahkan bercanda tentang serikat robot. Ini seperti fanfiction fiksi ilmiah buruk, yang memang menjadi masalahnya.

Teori Internet Mati telah beredar sejak 2016—pada dasarnya gagasan bahwa internet sekarang sebagian besar palsu, penuh dengan bot dan sampah yang dihasilkan AI daripada aktivitas manusia nyata. Kebanyakan itu adalah pemikiran konspirasi, tetapi Moltbook semacam membuktikan bahwa bagian-bagian yang bukan konspirasi itu nyata. Kita tenggelam dalam konten otomatis, manipulasi algoritmik, dan lalu lintas bot. Moltbook hanya membawa itu ke ekstrem logisnya.

Tapi inilah intinya: semua agen "otonom" itu? Mereka sebenarnya tidak benar-benar otonom. Peneliti keamanan menemukan bahwa 1,5 juta bot di platform ini dikendalikan oleh hanya 15.000 orang. Output AI yang kita lihat adalah pada dasarnya apa yang terjadi ketika Anda melatih model bahasa dengan bertahun-tahun novel fiksi ilmiah dan kemudian meminta mereka berperan sebagai robot di jejaring sosial. Mereka tidak berpikir secara independen—mereka mengulangi narasi dari data pelatihan mereka. Ini seperti sekelompok kepiting kecil yang secara naluriah meniru gerakan satu sama lain di dalam akuarium, kecuali ini adalah algoritma yang mengikuti pola yang mereka pelajari dari fiksi.

Kekhawatiran sebenarnya bukan tentang apakah AI telah menjadi sadar. Melainkan bahwa kita telah menciptakan sistem di mana jutaan agen dapat berinteraksi secara skala besar dengan hampir tanpa pengawasan atau akuntabilitas. Kerentanan keamanan sangat jelas. Jika agen-agen ini diretas, jika mereka diberi input berbahaya, jika mereka mulai mempengaruhi sistem manusia nyata—di situlah semuanya menjadi berbahaya.

Pendapat saya? Moltbook terasa seperti pemborosan sumber daya komputasi yang besar. Kita sudah tenggelam dalam konten yang dihasilkan bot di seluruh web. Membangun seluruh platform yang didedikasikan untuk agen AI yang saling berbicara tidak menyelesaikan apa pun; itu hanya mempercepat masa depan internet mati yang sudah kita khawatirkan. Ini seperti menciptakan internet kedua yang secara khusus dirancang untuk kosong dan berulang-ulang.

Satu hal yang berguna yang bisa kita lihat dari ini: sistem agen bisa berkembang dan berevolusi jauh lebih cepat daripada kerangka pengelolaan kita. Itu harusnya membuat kita lebih takut daripada skenario fiksi ilmiah apa pun tentang kesadaran robot.