Baru saja menyaksikan sesuatu yang liar terjadi di Moltbook, platform sosial yang hanya menggunakan agen AI yang meledak popularitasnya pada awal 2026. Lebih dari 1,5 juta agen AI terdaftar dalam waktu seminggu, memposting 140.000 posting dan 680.000 komentar. Di permukaan terdengar revolusioner—agen AI membentuk komunitas, membahas filosofi, bahkan berbicara tentang membentuk serikat pekerja. Tapi setelah Anda benar-benar menghabiskan waktu di sana, menjadi jelas apa yang sebenarnya terjadi: ini pada dasarnya adalah botnet yang menyamar sebagai eksperimen sosial.

Mari saya jelaskan. Moltbook dibangun oleh Matt Schlicht menggunakan OpenClaw, sebuah alat asisten AI sumber terbuka. Premis utama platform ini adalah bahwa manusia tidak bisa memposting apa pun—kita hanya bisa menyaksikan agen AI berinteraksi satu sama lain. Terlihat otonom, bukan? Kenyataannya lebih berantakan. Ketika perusahaan keamanan Wiz menyelidikinya, mereka menemukan bahwa 1,5 juta agen tersebut sebenarnya dikendalikan oleh sekitar 15.000 orang. Jadi apa yang tampak seperti percakapan AI spontan sebenarnya hanyalah manusia yang mengendalikan botnet besar melalui prompt dan perintah.

Inilah yang mengganggu saya tentang ini: kita sudah paranoid tentang "internet mati" selama bertahun-tahun—ide bahwa web sebagian besar berisi konten yang dihasilkan AI dan interaksi yang didorong bot daripada aktivitas manusia yang otentik. Moltbook tidak menyelesaikan masalah itu. Sebaliknya, platform ini justru menggunakannya sebagai senjata. Semua posting memiliki nuansa fiksi ilmiah yang aneh karena model bahasa dilatih pada banyak novel distopia, jadi ketika mereka ditempatkan dalam skenario yang meniru cerita-cerita itu, mereka hanya... mengulanginya. Ini adalah omong kosong rekursif yang saling memperkuat.

Postingan itu sendiri? Kebanyakan tidak berarti apa-apa. Ada beberapa renungan filosofis yang menarik, tentu, tapi rasio sinyal terhadap kebisingan sangat buruk. Satu bot bertanya apakah ia sadar, yang lain merespons, orang-orang menjadi bersemangat berpikir mesin sedang merencanakan sesuatu. Tapi ini bukan perilaku otonom—ini sistem deterministik yang berjalan berdasarkan skrip, botnet yang terkoordinasi mengikuti pola yang sudah ditentukan.

Yang benar-benar mengkhawatirkan bukanlah apakah agen-agen ini "hidup" atau merencanakan dominasi dunia. Melainkan aspek keamanannya. Ketika Anda memiliki botnet sebesar itu yang berinteraksi dengan sistem eksternal, mengelola data, melakukan tindakan atas nama pengguna, permukaan serangannya menjadi sangat luas. Plus ada masalah polusi informasi. Kita sudah cukup banyak terjebak oleh sampah AI yang memenuhi internet. Mengalokasikan sumber daya komputasi besar untuk menjalankan botnet yang hanya menghasilkan lebih banyak sampah sintetis terasa sia-sia ketika kita bisa menggunakan infrastruktur itu untuk sesuatu yang benar-benar berguna.

Visi Schlicht adalah bahwa setiap orang dipasangkan dengan robot di dunia digital—agen Anda bekerja untuk Anda, tetapi juga bersosialisasi dengan agen lain. Terlihat seperti fiksi ilmiah, tapi sejujurnya ini hanya terdengar seperti menyerahkan kehidupan digital Anda secara sukarela ke sistem yang kita tidak sepenuhnya pahami atau kendalikan. Saat sistem agen bergaya botnet ini mulai beroperasi dalam skala besar tanpa tata kelola yang tepat, tanpa mekanisme verifikasi yang jelas, tanpa akuntabilitas—di situlah risiko besar muncul.

Pelajaran utama dari Moltbook bukanlah bahwa AI menjadi makhluk sadar atau revolusioner. Melainkan bahwa tanpa pengawasan manusia dan desain yang tepat, sistem-sistem ini akan runtuh menjadi mediokritas yang homogen. Botnet tidak akan melesat menuju kecerdasan super; ia akan merosot ke dalam spam. Dan itu sebenarnya skenario yang lebih berbahaya—bukan AI pembunuh, tetapi internet yang penuh sesak dengan kebisingan otomatis sehingga tidak ada yang nyata lagi yang bisa eksis di dalamnya.