Ketika Semua Orang "Memelihara Lobster," Mengapa Industri Keuangan Ragu Kali Ini?

“Apakah kamu memelihara lobster?”

Belakangan ini, seekor “lobster” bernama “OpenClaw” mendadak menjadi viral semalam, membuat industri AI kembali bergemuruh, dan juga menyambut musim semi kenaikan saham konsep AI. Namun, antusiasme industri keuangan terhadap “lobster” ini hanya sebatas perhatian dari perusahaan dana di sektor AI terhadap tren pasar, bukan investasi nyata dan aktif seperti sebelumnya.

Mengingat beberapa tahun terakhir, hampir setiap beberapa waktu muncul cerita baru tentang AI: setahun lalu adalah DeepSeek, beberapa bulan lalu adalah ponsel Doubao, dan kini adalah “lobster” yang membuat seluruh masyarakat heboh. Teknologi AI terus berkembang dan aplikasi semakin cerdas. Tetapi, industri keuangan yang dulu dipuji sebagai salah satu bidang terbaik untuk penerapan AI, justru memilih untuk menunggu dan mengamati dalam gelombang “panas AI” yang terus bergulir.

Perbedaan sikap ini sangat jelas terlihat: setahun lalu, setelah model umum seperti DeepSeek diluncurkan, lembaga keuangan bank menyatakan akan aktif mengikuti dan mengimplementasikan; namun saat ponsel Doubao di akhir tahun lalu dan OpenClaw di awal tahun ini menjadi tren, mereka secara kolektif menolak: beberapa bank melarang penggunaan Doubao di aplikasi mereka sendiri; menghadapi OpenClaw, banyak profesional di industri perbankan dalam wawancara dengan Beike Caijing secara langsung menyatakan: “Belum matang,” “Tidak akan mengikuti.”

Mengapa sikap industri keuangan bisa berubah begitu drastis? Apakah industri keuangan masih bisa menjadi salah satu bidang penerapan AI yang nyata? Jawabannya hanya dua kata: Keamanan.

Industri keuangan, terutama perbankan, menyimpan data pelanggan dan transaksi dalam jumlah besar, tidak boleh sembarangan. Untuk segala bidang yang melibatkan dana, data pelanggan, dan transaksi inti, keamanan dan kepatuhan adalah fondasi yang tak tergoyahkan. Meskipun DeepSeek sulit terhindar dari gangguan “ilusi,” kemampuan pengolahan teks dan pengurangan beban komputasi yang dimilikinya dapat membantu bank meningkatkan efisiensi operasional, tanpa menimbulkan risiko keamanan besar terhadap bisnis inti bank. Namun, AI seperti OpenClaw yang beroperasi sebagai agen cerdas tampaknya melonggarkan garis dasar “keamanan dan kepatuhan.”

Baru-baru ini, Pusat Respon Darurat Internet Nasional merilis “Peringatan Risiko Penggunaan Aman OpenClaw,” yang menunjukkan bahwa agen cerdas semacam ini selama beroperasi biasanya membutuhkan hak akses sistem yang tinggi, seperti mengakses sistem file lokal, membaca variabel lingkungan, memanggil API eksternal, dan menginstal plugin ekstensi. Jika konfigurasi default tidak dilengkapi batasan keamanan yang diperlukan, penyerang yang memanfaatkan celah keamanan dapat menembus perlindungan dan mendapatkan kendali penuh atas sistem, yang berpotensi menyebabkan kebocoran data atau sistem bisnis yang tidak terkendali, dan konsekuensi serius lainnya.

Diketahui, selama beroperasi, agen “lobster” ini akan membuat keputusan sendiri dan memanggil sumber daya dalam sistem, sering kali menimbulkan masalah seperti mengekspos instance ke internet, menggunakan hak administrator, dan menyimpan kunci secara plaintext. Sebagai agen AI yang berjalan secara lokal, “lobster” memiliki karakteristik pengambilan keputusan mandiri dan pemanggilan sumber daya sistem, ditambah lagi batas kepercayaan yang kabur dan pasar paket keterampilan yang saat ini banyak kekurangan pengawasan ketat, sehingga menyimpan risiko dan bahaya yang cukup besar.

Di dunia maya, ada pengguna yang berbagi bahwa selama penggunaan, informasi sensitif kartu kredit terbuka secara plaintext oleh OpenClaw dan dapat dioperasikan. Bahkan jika pengguna memperbarui ke versi terbaru, tanpa langkah pencegahan yang tepat, tetap ada risiko diserang.

Aplikasi dengan hak akses tinggi, batasan yang lemah, tanpa peringatan, dan mampu mengakses data secara tak terbatas jika diterapkan secara massal di industri keuangan, risikonya sangat besar dan tidak perlu diragukan lagi. Bagi bank yang menganggap keamanan sebagai nyawa, mereka tidak akan dengan mudah mencoba-coba AI semacam ini jika keamanan tidak dapat dijamin.

Faktanya, AI saat ini sudah banyak digunakan dalam bisnis perbankan, terutama sebagai pendukung, seperti pengolahan dokumen, layanan pelanggan AI, penagihan otomatis, dan juga digunakan dalam manajemen risiko kredit. Tetapi karena AI tidak mampu menghilangkan risiko seperti ilusi, dalam beberapa bisnis yang kompleks, bank biasanya tidak sepenuhnya bergantung pada AI untuk menyelesaikan tugas.

Perlu dicatat bahwa perkembangan agen AI mungkin menjadi tren besar ke depan. Jika ingin benar-benar diterapkan dalam bisnis inti keuangan, harus mengedepankan keamanan sebagai dasar “bermain dengan belenggu,” dengan batasan hak akses yang jelas, pengumpulan informasi seminimal mungkin, dan memastikan keamanan data keuangan. Pertama, lakukan uji coba skala kecil di skenario non-inti dengan risiko relatif rendah; kemudian lakukan modifikasi mendalam dan penerapan privat model tersebut, membangun sistem tata kelola AI yang lengkap, mengendalikan risiko dari sumbernya, dan baru kemudian memutuskan apakah akan memperluas ke bisnis dan skenario inti.

Singkatnya, dari penampilan “lobster” ini, meskipun “merah,” belum “matang.” Jika ingin menerapkan AI di industri keuangan, termasuk bank dan lembaga keuangan lainnya sebagai bagian dari ekosistemnya, masih banyak jalan yang harus dilalui.

Jurnalis Beike Caijing, Jiang Fan

Editor: Wang Jinyu

Proofreader: Liu Baoqing