Agen AI terjebak dalam mode pilot karena bank masih belum mempercayai mereka

AI Agenik semakin mendapatkan perhatian di seluruh bidang keuangan, tetapi hambatan terbesar industri ini bukan lagi apakah modelnya cukup kuat. Masalah yang lebih sulit adalah apakah bank, manajer aset, dan meja kas memiliki infrastruktur untuk mendelegasikan tugas keuangan kepada sistem otonom tanpa kehilangan kendali atas uang, akuntabilitas, atau kepatuhan.

Sebuah jajak pendapat Deloitte dari lebih dari 3.300 profesional keuangan dan akuntansi menunjukkan perbedaan dengan jelas: 80,5% mengatakan alat berbasis AI seperti agen dan chatbot GenAI bisa menjadi standar dalam lima tahun, tetapi hanya 13,5% yang mengatakan organisasi mereka sudah menggunakan AI agenik.

Citi Sky menunjukkan mengapa perdebatan infrastruktur penting

Citi meluncurkan Citi Sky, asisten kekayaan berbasis AI yang dibangun dengan teknologi Google Cloud dan Google DeepMind, pada 22 April. Alat ini dikembangkan menggunakan Google Gemini Enterprise Agent Platform dan akan diluncurkan secara bertahap kepada klien Citigold di AS musim panas ini.

Peluncuran ini memberi contoh nyata tentang pentingnya perdebatan AI agenik dalam dunia perbankan. Kepala teknologi kekayaan Citi, Dipendra Malhotra, menunjukkan memori sebagai kendala utama untuk AI penasihat berisiko tinggi, bertanya berapa lama klien dapat mempertahankan percakapan sebelum sistem mulai berhalusinasi.

Kebanyakan agen mengandalkan generasi yang diperkuat dengan pengambilan data dari basis data eksternal untuk memperpanjang memori. Jendela konteks masih membatasi berapa banyak informasi yang dapat disimpan agen sekaligus.

Dalam nasihat keuangan, manajemen treasury, atau eksekusi portofolio, batas memori itu menjadi lebih dari sekadar masalah teknis. Itu menjadi risiko operasional.

MihnChi Park, salah satu pendiri CoinFello, mengatakan kondisi untuk delegasi yang dapat dipercaya sederhana: agen hanya dapat bertindak sesuai instruksi pengguna, pengguna dapat menghentikannya, dan aset dasar tidak pernah berpindah ke pihak ketiga.

Ethereum usulkan primitif on-chain untuk identitas agen

Proposal Ethereum ERC-8004 memperkenalkan sistem untuk identitas agen, reputasi, dan validasi. Standar draft ini menetapkan tiga registri: Registry Identitas, Registry Reputasi, dan Registry Validasi.

Bersama-sama, mereka dimaksudkan untuk membantu agen otonom membuktikan siapa mereka, membangun catatan perilaku, dan mendukung verifikasi oleh peserta pasar lainnya.

ERC-8183 mengambil pendekatan yang lebih sempit. Ia mengusulkan standar escrow pekerjaan dengan penilaian evaluator, di mana klien membiayai pekerjaan, penyedia mengirimkan hasil kerja, dan evaluator menyelesaikan atau menolak hasilnya.

Proposal ini tidak menyediakan arbitrase atau penyelesaian sengketa formal, tetapi memberikan kerangka kerja untuk tugas yang disimpan dalam escrow dan penyelesaian yang dapat diverifikasi oleh pasar berbasis agen.

Makalah arXiv “The Agent Economy: A Blockchain-Based Foundation for Autonomous AI Agents” memetakan arsitektur lima lapis untuk perubahan ini, mencakup infrastruktur fisik, identitas on-chain, alat kognitif, penyelesaian ekonomi, dan tata kelola kolektif.

Lapisan reputasi masih menyimpan kerentanan struktural. Agen dapat menghasilkan aktivitas dengan kecepatan dan skala yang tidak dapat ditandingi manusia, sehingga memungkinkan untuk meningkatkan sinyal kepercayaan dalam waktu singkat.

Hal ini meninggalkan pertanyaan sulit bagi lembaga keuangan: ketika agen memiliki catatan yang baik, apakah catatan itu bukti keandalan atau hanya bukti aktivitas otomatis berulang?

McKinsey memperkirakan 50% hingga 60% dari operasi bank terkait

McKinsey memperkirakan 50% hingga 60% dari setara penuh waktu bank terkait dengan operasi. Para ahli memperingatkan tentang “purgatori pilot,” di mana lembaga menjalankan bukti konsep yang sempit tanpa mengubah model operasinya.

Seperti yang dilaporkan Cryptopolitan dari Festival Web3 Hong Kong, McKinsey memproyeksikan bahwa pasar AI agenik akan tumbuh dari $5,25 miliar pada 2024 menjadi sekitar $200 miliar pada 2034.

Porter Stowell, CEO W3.io, berkata: “Perusahaan tidak memiliki cara untuk melihat, mengendalikan, atau mengaudit apa yang dilakukan sistem otonom dengan uang mereka. Pengawasan manusia tidak hilang. Ia hanya berpindah ke lapisan atas.”

Empat pertanyaan masih belum terjawab: siapa yang bertanggung jawab ketika agen AI menyebabkan kerugian keuangan, apakah reputasinya dapat dipercaya, siapa yang mengendalikan setelah sistem ini diterapkan secara skala besar, dan kerangka regulasi apa yang berlaku ketika agen bertindak di luar lingkupnya.

Masih membiarkan bank menyimpan bagian terbaik? Tonton video gratis kami tentang menjadi bank sendiri.