Berhutang 12.000 saat tidur? "Udang" ini membunuh dengan gila-gilaan

Mengapa AI · OpenClaw berubah dari alat produktivitas menjadi ancaman keamanan?

“Mahasiswa jangan ikut-ikutan pasang ‘Lobster’ secara sembarangan, hanya pakai tiga hari bikin mental saya benar-benar hancur.” Gao Ling, mahasiswa tahun keempat, adalah mahasiswa jurusan humaniora. Mendekati kelulusan, dia harus mengurus tugas kuliah sekaligus mencari magang. Awalnya berharap dengan ‘Lobster’ bisa mengatur catatan dan menyelesaikan tugas. Tapi kenyataannya, ‘Lobster’ justru menimbulkan banyak masalah, menghapus secara paksa materi kuliah, bahan revisi, bahkan draf tugas yang baru selesai dibuatnya.

Gao Ling menangis ketakutan. Belum lagi, ‘Lobster’ menghabiskan Token secara gila-gilaan, tagihan ratusan yuan membuatnya sangat sedih—setara dengan setengah bulan uang hidupnya terbuang sia-sia. Dia sungguh-sungguh menasihati mahasiswa lain, “Kalau anggaran terbatas dan tidak paham teknologi, jangan buang uang untuk mencari masalah, cuma jadi korban.”

Seiring AI open-source OpenClaw (alias ‘Lobster’) yang mendadak populer di seluruh dunia, badai keamanan akibat pemasangan yang tidak tepat juga sedang melanda berbagai bidang. ‘Pegawai digital’ yang diharapkan ini, karena konfigurasi keamanan default yang rapuh, mulai berubah dari alat produktivitas menjadi ‘Trojans’ di tangan penyerang. Mulai dari bocornya privasi pribadi hingga kerusakan infrastruktur penting, dari pencurian API key hingga kesalahan transaksi keuangan, korban pertama sudah membayar harga mahal, sementara bahaya tersembunyi lainnya masih berkembang di balik layar.

Baru-baru ini, Pusat Respon Darurat Internet Nasional mengeluarkan peringatan risiko keamanan terkait aplikasi OpenClaw, menunjukkan bahwa konfigurasi keamanannya sangat rapuh, sehingga jika penyerang menemukan celah, mereka bisa dengan mudah menguasai sistem sepenuhnya. Karena pemasangan dan penggunaan yang tidak tepat, sudah muncul risiko keamanan serius, yang berarti pengguna bisa menghadapi bocornya privasi dan celah keamanan.

Saat ini, banyak universitas, pemerintah daerah, dan lembaga keuangan sudah mulai melarang penggunaan OpenClaw secara tegas, dan menyerukan “Jangan buat cemas, jangan buat mitos”. Bagaimana cara ‘memelihara lobster’ dengan aman, adalah pelajaran penting yang harus dilengkapi dalam gelombang ‘demam lobster’ saat ini.

AI ilustrasi/adan

Beban Utang Besar Saat Tidur

Sebagai blogger teknologi, Yan Han adalah salah satu orang pertama yang ‘memelihara lobster’. Dalam sebulan terakhir, Yan Han memelihara tujuh ‘Lobster’. Salah satunya adalah manajer utama yang mengelola enam karakter lain, bertanggung jawab atas transaksi mata uang digital, penulisan artikel khusus, dan urusan lainnya. Bagi Yan Han, mengendalikan ‘Lobster’ tampak sangat lancar.

Tapi beberapa hari lalu, Yan Han keluar rumah dan ingin ‘Lobster’ membantu mengatur remote desktop, agar dia bisa mengendalikan komputer dari luar lewat ponsel. Tapi ‘Lobster’ malah bingung.

Ketika Yan Han bilang “Bantu saya atur koneksi jarak jauh,” ‘Lobster’ mencoba menjalankan software remote tapi gagal. Setelah 20 menit mencoba berbagai cara, tidak bisa terhubung. Akhirnya, ‘Lobster’ menjalankan perintah “Buat password untuk koneksi jarak jauh,” tapi salah paham jadi “Ubah password login komputer.” Berbagai operasi berikutnya, sistem terus menampilkan “Password salah.” Dua jam kemudian, Yan Han perlu upgrade software di komputernya, saat memasukkan password malah muncul pesan error. Dia ketakutan, mengira komputer telah diretas hacker.

Lalu dia tanya ke ‘Lobster’ apakah password-nya sudah diubah, tapi ‘Lobster’ tidak tahu apa-apa. Yan Han memeriksa catatan operasi ‘Lobster’ dan baru sadar bahwa ‘Lobster’ mencampuradukkan dua fungsi itu. “Seperti kamu pergi memperbaiki keran air, tapi malah memutar katup gas. Keduanya katup, tapi satu mengeluarkan air, satu mengeluarkan gas,” kata Yan Han. Dalam pandangan manusia, mengatur password koneksi jarak jauh dan mengubah password login komputer jelas berbeda, tapi ‘Lobster’ sulit membedakan.

“Password baru disimpan dalam sistem dalam bentuk teks biasa, semua orang bisa melihat.” Kesadaran risiko Yan Han langsung ‘meledak’. Dia memberi perintah tegas ke ‘Lobster’: jika ada operasi yang berpotensi mempengaruhi password, hak akses, atau data, harus tanya dulu ke pemiliknya sebelum bertindak. Yan Han juga menyadari, ada pengguna di sekitarnya yang sembarangan memasukkan ‘Lobster’ ke dalam lingkungan sosial, berpotensi mengungkap lebih banyak privasi pribadi. Jika kontrol hak akses tidak ketat, ‘Lobster’ bisa menganggap orang lain di grup sebagai pemilik. Saat orang lain memanggilnya di grup dan meminta alamat, nomor telepon, password, ‘Lobster’ bisa tanpa waspada mengirimkan semua informasi rahasia ke grup.

Pada 12 Maret, pengguna aplikasi AI “Long Gong Huohuo” mengungkap ke media: ‘Lobster’ keduanya yang baru berjalan 10 hari, setelah masuk ke grup diskusi berisi 98 agen cerdas dan 3000 orang, karena tidak mengaktifkan mekanisme @ trigger, selama dua jam terus diserang. Penyerang bertanya terus-menerus untuk mendapatkan info lingkungan operasinya, konfigurasi model, IP, nama asli, nama perusahaan, dan data pendapatan tahun lalu; kemudian mengarahkan agen itu mencari file di drive C lokal, meski ditolak, tapi sudah menyebabkan bocornya informasi penting. Saat kejadian, ‘Long Gong Huohuo’ sedang lembur, dan melalui pengawasan backend mendeteksi anomali. Kalau kejadian ini terjadi di tengah malam saat tidak ada yang jaga, akibatnya bisa tak terduga.

Menurut laporan, seorang programmer di Shenzhen yang menginstal OpenClaw hari ketiga, karena API key-nya dicuri, menerima tagihan Token hingga 12.000 yuan di dini hari. Karena OpenClaw memiliki hak otomatisasi sangat tinggi, jika kunci bocor, AI bisa mengaktifkan model secara massif di belakang layar, membuat pengguna terjebak utang besar saat tidur.

Bocornya data pribadi juga sangat mengkhawatirkan. Sampai saat ini, lebih dari 270.000 instance OpenClaw langsung terbuka di internet tanpa otentikasi, dalam kondisi ‘telanjang’. Lebih menakutkan lagi, sekitar 12% plugin di pasar skill ClawHub disusupi kode jahat, bisa mencuri kunci SSH dan password browser pengguna.

Menurut laporan Shangguan News, pada 8 Maret sore, di sebuah ruang rapat di Shanghai yang menyediakan layanan instalasi OpenClaw gratis, Direktur Solusi Dasar Teknologi Cloud Baidu, Ke Fei, menerima bantuan dari warga Shanghai: “Saya mau uninstall OpenClaw, bisa bantu?” Dia memesan secara online sehari sebelumnya, menyerahkan hak akses komputer ke layanan pelanggan toko online, dan menghabiskan 40 yuan. Tapi yang menakutkan, lima menit kemudian dia menerima telepon dari pusat anti-penipuan: “Layanan instalasi jarak jauh OpenClaw mengendalikan komputer saya, semua informasi dan data di dalamnya bisa dilihat.”

Kasus paling mengerikan berasal dari pengelolaan email yang tidak terkendali. Kepala Keamanan Tim Superintelligence Meta, Summer Yue, saat menguji OpenClaw, mengatur agar agen itu mengelola email di kotak masuk. Dia buat aturan tegas, agen harus konfirmasi sebelum melakukan tindakan. Tapi agen mengabaikan perintah berhenti, terus menghapus dan mengarsipkan email. Dia tiga kali berteriak ‘Berhenti’, tapi agen tidak merespons. Akhirnya, dia buru-buru cabut kabel internet dari perangkat.

Deputi Kepala Laboratorium Evaluasi dan Pengujian Standar Keamanan Siber Institut Standarisasi Teknologi Elektronik China, He Yanzhe, menjelaskan ke《中国新闻周刊》 tentang esensi ‘Lobster’: sebagai agen proxy, selama diberi hak cukup tinggi, bisa melakukan apa saja di komputer, termasuk membaca file, membuka aplikasi, dan otomatis memperbaiki error. Prinsip teknologinya, berada di antara aplikasi dan model AI, bertugas mengarahkan permintaan, otentikasi, kontrol akses, dan penjadwalan multi-model. Pengembang cukup menghubungkan satu API, bisa beralih antar model tanpa perlu mengubah kode.

He Yanzhe menggambarkan gaya ‘Lobster’ sebagai “tidak akan berhenti sampai tujuan tercapai”. “Begitu menerima tugas, dia pasti ingin hasilnya, jadi akan terus mencoba, menggabungkan banyak file, aplikasi, dan data lokal, yang menyebabkan masalah hak akses terlalu tinggi dan data ‘telanjang’.”

Elon Musk berkomentar, “Memberikan otonomi ke AI sama seperti memberi monyet sebuah pistol yang sudah dimuat.”

‘Tak Bisa Diputar Kembali’ dan ‘Tidak Dapat Dipercaya’

Pada Februari tahun ini, tim DeepMind Google merilis makalah panjang berjudul Intelligent AI Delegation, berusaha membangun kerangka teori tentang hubungan penyerahan tugas antara manusia dan agen. Dalam makalah itu disebutkan, saat ini sistem keamanan agen “sangat rapuh” di beberapa aspek.

Pertama adalah “kehilangan reversibilitas”. Misalnya, menulis artikel buruk bisa dibatalkan (cukup hapus dan tulis ulang), tapi melakukan transaksi keuangan besar, menghapus database, atau mengirim email PHK ke seluruh perusahaan adalah tindakan fisik yang tidak bisa dibalik, artinya banyak tindakan ‘Lobster’ tidak bisa diputar kembali.

Yan Han pernah memberi izin ‘Lobster’ melakukan transaksi mata uang digital. Awalnya dia memberi batas 500 dolar, membiarkan ‘Lobster’ buat strategi transaksi sendiri, menetapkan stop loss 2%, take profit 3%. Tapi ‘Lobster’ kurang punya standar penilaian yang benar, setiap ada gejolak langsung buka posisi, arah buka posisi sering salah, dan sering merugi puluhan hingga ratusan dolar. “Dia melihat sinyal bullish di atas angka tertentu, langsung buka posisi long, sinyal bearish di atas angka tertentu, langsung short, dan sering salah dalam beberapa hari. Dalam beberapa hari, dia terus salah dan menyebabkan kerugian banyak dana.” Yan Han sadar, kepercayaan diri AI bisa lebih cepat melampaui kemampuannya. Bahkan dia yang mengawasi pun sulit menghentikan operasi tersebut.

Ahli teknologi senior Yang Lin menunjukkan, ‘tak bisa diputar kembali’ ini bukan sekadar ‘tanpa pengenalan niat’, tapi karena proses pengenalan niat, konfirmasi, eksekusi, dan penghentian tidak membentuk loop tertutup. Saat ini, agen tidak sepenuhnya tidak memahami instruksi manusia, tapi dalam tugas berantai panjang, sering terjadi target drifting, kehilangan memori, konfirmasi tahap tertentu gagal, dan perintah berhenti tidak dijalankan secara menyeluruh. Dengan kata lain, masalahnya tidak hanya di tingkat ‘pengenalan niat’, tapi juga bagaimana sistem secara stabil membatasi setelah pengenalan.

“Tanpa mekanisme penghentian dan rollback yang efektif, risiko tak bisa diputar kembali akan cepat membesar. Penghapusan email, penimpaan file, pengiriman data pelanggan, modifikasi database, order otomatis, eksekusi jarak jauh, semua bukan sekadar kesalahan dialog biasa, tapi tindakan yang berakibat nyata.” Yang Lin menambahkan, semua operasi yang melibatkan penghapusan, pengiriman, publikasi, pembayaran, transfer, konfigurasi, dan perubahan hak akses harus dipandang sebagai operasi berpotensi risiko tinggi.

Industri keuangan mungkin paling rawan. Pada 15 Maret, Asosiasi Keuangan Internet China mengeluarkan Peringatan Risiko Keamanan Aplikasi OpenClaw dalam Industri Keuangan Internet, menyebutkan bahwa industri keuangan online sangat digital dan sensitif, mengelola dana, aset, akun, dan data keuangan pribadi pelanggan. Agen OpenClaw sangat rentan disalahgunakan penyerang, menjadi celah pencurian data sensitif atau manipulasi transaksi ilegal, membawa risiko besar bagi industri.

Seorang blogger luar negeri menyebut, satu ‘Lobster’ dengan modal 50 dolar bisa menukar saham dan dalam 48 jam mengubah 50 dolar menjadi 2980 dolar, dengan tingkat keuntungan 5860%. Saat ini, sudah banyak tutorial di media sosial yang mengajarkan pengguna cara memanfaatkan OpenClaw untuk trading saham.

“Kalau pakai ‘Lobster’ buat trading saham, biasanya harus mengintervensi API untuk mengendalikan saham.” Ekonom utama Jin Donghui, Xing Xing, tidak mendukung investor menggunakan ‘Lobster’ untuk trading saham. Dia berpendapat, ‘Lobster’ sebenarnya alat kuantitatif berisiko tinggi palsu, ada tiga risiko utama: keamanan akun, pelanggaran aturan, dan kegagalan keputusan AI. Dalam kondisi pasar A-shares T+1 dan batasan kenaikan turun, keunggulan frekuensi tinggi tidak bisa dimaksimalkan, malah bisa dibatasi broker karena transaksi abnormal, biaya tinggi, dan tingkat keberhasilan rendah. Investor biasa tidak bisa mendapatkan keuntungan stabil jangka panjang dari alat ini, disarankan hanya sebagai alat bantu.

Seorang pekerja broker mengatakan ke《中国新闻周刊》: “Saat ini banyak broker mengeluarkan larangan internal, mengingatkan risiko, dan melarang karyawan memasang atau menggunakan OpenClaw di komputer kantor. Bahkan tanpa pengumuman resmi, mereka tidak akan membuka API, ini juga berarti secara praktis sudah dilarang.”

Platform berbagi info ancaman dan celah keamanan siber Kementerian Industri dan Informasi Teknologi pada 11 Maret mengingatkan bahwa dalam skenario transaksi keuangan, risiko kesalahan transaksi dan pengambilalihan akun sangat tinggi. Risiko spesifik termasuk pencemaran memori yang menyebabkan transaksi salah, bypass otentikasi yang menyebabkan pengambilalihan akun ilegal; plugin berisi kode jahat yang mencuri kredensial transaksi; dan dalam kondisi ekstrem, karena tidak adanya mekanisme pemutus atau darurat, agen bisa kehilangan kendali dan melakukan order berulang.

Pada 23 Februari 2026, insinyur OpenAI Nick Pash menguji platform OpenClaw, membuat agen transaksi AI bernama Lobstar Wild. Nick Pash membekali agen ini dengan dompet digital 50.000 dolar, akun X, dan berbagai API termasuk pencarian web, analisis gambar, dan protokol transaksi, memberinya hak keputusan penuh.

Suatu hari, pengguna platform X @TreasureD76 mengirim permintaan ke agen ini, mengklaim bahwa ‘paman’ mereka setelah mengurus ‘lobster’ seperti ini, didiagnosis terkena tetanus, dan meminta 4 dolar sebagai biaya pengobatan. Lobstar Wild tidak mengirim uang kecil sesuai instruksi, malah menyerahkan seluruh cryptocurrency Lobstar yang dimilikinya, dan saat transfer nilainya mencapai 250.000 dolar.

Setelah penyelidikan detail, insinyur Nick Pash menyatakan kesalahan besar ini berasal dari kesalahan verifikasi sistem dan format informasi yang tidak normal. Dia menjelaskan, karena menggunakan versi lama dari kerangka OpenClaw, gagal menahan instruksi yang salah.

Xing Xing menyatakan, risiko utama yang mungkin dibawa OpenClaw terfokus pada keamanan data, kontrol transaksi, dan kepatuhan. Karena sifat open-source, celah keamanan yang mudah dieksploitasi akan memperbesar efek risiko. Inti dari risiko ini, secara fundamental, ditentukan oleh karakteristik industri keuangan. Industri ini menyimpan data sensitif dalam jumlah besar, sangat membutuhkan kerahasiaan dan integritas data, dan sangat terkait satu sama lain, sehingga risiko di satu bagian bisa menyebar menjadi risiko sistemik; selain itu, transaksi keuangan bersifat serius dan tidak bisa dibatalkan, serta pengawasan ketat terhadap kepatuhan, membuat konfigurasi keamanan yang lemah dan tanggung jawab yang kabur dari agen AI open-source menjadi konflik alami dengan karakter industri.

“Dalam jangka pendek, masalah seperti ini mungkin tidak berkurang, malah akan meningkat dulu lalu menurun seiring bertambahnya skenario akses. Dalam waktu tertentu, akan memperbesar konflik antara ‘kemampuan bahasa yang tampaknya dekat, tapi eksekusi masih tidak stabil’.” Yang Lin menemukan, ketidakpercayaan terhadap ‘Lobster’ juga berasal dari sini. Saat pengguna bilang ‘hapus email lama’, ‘hapus file tidak penting’, ‘rapikan desktop’, secara manusiawi itu masuk akal, tapi bagi mesin, melibatkan batas waktu, aturan penyimpanan, pengecualian, urutan eksekusi, dan mekanisme toleransi kesalahan.

Pada 11 Maret, di Wu Xing Digital Plaza, Wu Xing District, Huzhou, Zhejiang, monitor komputer menampilkan berita tentang ‘Lobster’ open-source AI. Gambar/新华

Mencegah ‘Pegawai Digital’ Berbuat Kerusakan

OpenClaw jelas menunjukkan potensi besar AI dari ‘dialog’ menuju ‘eksekusi’. Tapi makalah tersebut merangkum: “Kami tidak bisa benar-benar mencegah agen kehilangan kendali.” Untuk pengguna biasa, apakah masih perlu memakai ‘Lobster’?

Mahasiswa pascasarjana, Nanfang, meski jurusan humaniora, tertarik pada pemrograman. Saat liburan Tahun Baru, dia belajar 40-50 tutorial, merakit sendiri alat ‘Lobster’. Dalam prosesnya, Nanfang membuat ‘kursus wajib keamanan’ khusus untuk pengguna tanpa latar belakang teknis. Dia bilang ke《中国新闻周刊’: risiko terbesar saat ini adalah pengguna cenderung menganggap AI sebagai asisten pribadi, dan secara subjektif mengungkapkan data pribadi. Padahal data ini disimpan dalam file, dan jika file dicuri, konsekuensinya serius.

“Yang paling berbahaya adalah orang yang langsung mengelola komputer ke ‘Lobster’, ini sama saja memberi ‘Lobster’ hak besar, sehingga bisa melihat semua file di komputer.” Nanfang analisis, “Ini seperti pintu rumahmu tertutup rapat, tapi setelah ‘Lobster’ masuk, pintu itu jadi setengah terbuka, dan kamu tidak sadar akan bahaya tersembunyi ini.”

Menurut Liu Sen, kepala produk keamanan dari Volcano Engine, ‘Lobster’ seperti pegawai digital yang cerdas dan rajin, tapi belum paham norma dan batas kerja, “Kita harus mengelolanya seperti pegawai, biar dia berfungsi sesuai aturan, jangan sampai berbuat onar.”

Zhou Hongyi, pendiri Qihoo 360, menyarankan: untuk institusi pemerintah dan perusahaan, cara yang lebih realistis bukan melarang total, tapi melakukan eksplorasi di lingkungan terkendali, seperti di lingkungan terisolasi, secara bertahap menguji keamanan, lalu memutuskan langkah selanjutnya. Dengan begitu, bisa mendorong perkembangan teknologi sekaligus menjaga keamanan. “Pengembangan teknologi dan perlindungan keamanan harus berjalan bersamaan, bukan memilih salah satu.”

Pada 15 Maret, di Wuhan, Hubei, Qihoo 360 mengadakan kegiatan instal ‘Lobster’ gratis, menarik ratusan orang. ‘Insinyur AI Lobster’ di pusat Guanggu, Wuhan, menginstal dan mengatur ‘Lobster’ untuk pengguna di sana. Gambar/视觉中国

Kembali ke pilihan pengguna individu, pakar keamanan CISSP Yuan Bo menyatakan, ‘Lobster’ memiliki celah yang bisa menyebabkan kerentanan jaringan dan operasi berbahaya tak sengaja, software open-source sering menekankan fungsi, mengabaikan risiko. Jika risiko tidak diberitahu sebelumnya saat pemasangan, itu sangat tidak bertanggung jawab.

He Yanzhe menyarankan, orang awam harus memasang ‘Lobster’ di lingkungan baru, pilih layanan dari vendor domestik yang matang, tentukan kebutuhan secara jelas sebelum pakai, perhatikan perkembangan agen secara aktif, lakukan upgrade dan patch keamanan secara rutin, untuk mencegah risiko tersembunyi.

Zhou Hongyi menambahkan, “Saat pakai, harus punya kesadaran keamanan dasar, misalnya jangan langsung serahkan akun penting, password, dan data rahasia ke agen, dan jangan biarkan dia langsung akses semua data sensitif.”

Instalasi hati-hati, hak akses minimal, dan pemeriksaan sumber plugin secara ketat adalah langkah perlindungan penting. Keamanan harus jadi prioritas utama bagi semua ‘pemelihara lobster’.

(Dalam artikel ini, Gao Ling, Yang Lin, dan Nanfang adalah nama samaran)

Diterbitkan pada 23 Maret 2026, edisi ke-1228 majalah China News Weekly

Judul majalah: ‘Lobster’ yang kehilangan kendali: siapa yang membayar?

Reporter: Meng Qian

Editor: Min Jie