Dilema Kepatuhan AI: Kepercayaan Masih Milik Manusia

Roman Eloshvili adalah pendiri dan CEO XData Group, sebuah perusahaan pengembangan perangkat lunak B2B. Di sana, dia mengarahkan pengembangan AI di perbankan sambil menjalin hubungan dengan investor dan mendorong skalabilitas bisnis. Dia juga pendiri ComplyControl, sebuah startup RegTech yang berbasis di Inggris yang mengkhususkan diri dalam solusi teknologi mutakhir untuk bank.

Temukan berita dan acara fintech teratas!

Langganan buletin FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Bank dan fintech di seluruh dunia sedang mencari cara untuk menggunakan kecerdasan buatan dalam berbagai cara: untuk mempercepat operasi, mengurangi biaya, meningkatkan interaksi dengan pelanggan, dan lebih banyak lagi. Namun, ketika datang ke kepatuhan — bisa dibilang, salah satu bagian yang paling menuntut dan memakan waktu dalam keuangan — sebagian besar perusahaan masih menahan diri.

Sebuah survei yang dilakukan sebelumnya pada tahun 2025 menemukan bahwa hanya sebagian kecil perusahaan (kurang dari 2%) yang benar-benar telah mengintegrasikan AI ke dalam alur kerja mereka. Namun, sebagian besar dari mereka masih berada di tahap awal eksplorasi dan adopsi. Jika memang, mereka mengadopsinya sama sekali.

Tekanan pada perusahaan untuk mengikuti perubahan regulasi masih sangat ada, dan semakin meningkat. Jadi, mengapa kepatuhan begitu lambat untuk mengadopsi AI padahal bisa sangat membantu?

Mari kita coba cari tahu.

Penglihatan Manusia untuk Hal-Hal Masih Penting

Mungkin hal pertama dan terpenting yang perlu kita ingat di sini adalah bahwa kepatuhan bukan hanya tentang mengikuti daftar periksa. Ini tentang membuat keputusan dalam situasi yang sering kali jatuh ke dalam area abu-abu. Dunia keputusan keuangan jarang sekali hitam-putih. Regulasi berbeda di setiap yurisdiksi, dan interpretasi aturan tersebut jarang langsung.

AI sangat hebat dalam menganalisis data dengan kecepatan tinggi dan menemukan anomali. Tetapi meskipun bisa menandai transaksi yang terlihat mencurigakan berdasarkan pola yang sudah ditetapkan, itu tidak berarti AI bisa menjelaskan dengan jelas “mengapa” di balik kesimpulannya. Yang lebih penting, AI kesulitan dengan nuansa. Seorang petugas kepatuhan manusia dapat mendeteksi kapan perilaku klien, meskipun tidak biasa, adalah tidak berbahaya. AI, di sisi lain, jauh lebih mungkin hanya untuk mengangkat alarm tanpa konteks.

Inilah mengapa pemimpin kepatuhan ragu untuk menyerahkan kendali di sini. Mesin tentu bisa membantu, tetapi sebagian besar orang masih jauh lebih mungkin untuk percaya pada kemampuan manusia untuk melihat gambaran yang lebih luas dan menilai sesuai.

Efisiensi vs. Risiko Regulasi dan Reputasi

Kemampuan AI untuk menganalisis ribuan transaksi secara real-time adalah sesuatu yang tidak bisa ditandingi oleh tim kepatuhan mana pun yang terjebak dalam mode manual. Jadi dari segi efisiensi, tidak ada yang bisa membantah bahwa itu adalah alat dukungan yang hebat, mampu mengurangi beban kerja sehingga staf manusia dapat fokus pada tugas yang lebih strategis dan bernuansa.

Tetapi kepatuhan bukanlah area di mana kecepatan saja menang. Jika sistem AI membuat kesalahan dalam penilaian, itu bisa berarti denda, kerusakan reputasi, atau pengawasan regulasi. Semua hal ini bisa sangat merugikan bagi sebuah bisnis — bahkan mungkin menghancurkan. Jadi, apakah mengherankan bahwa banyak yang ingin menghindari mengundang komplikasi seperti itu?

Sebagian besar regulator juga setuju bahwa, ketika datang ke pengambilan keputusan berbasis AI, seseorang harus tetap bertanggung jawab. Jika model AI secara keliru memblokir transaksi yang sah atau mengabaikan yang curang, tanggung jawab akhirnya tetap berada di perusahaan. Dan itu adalah petugas kepatuhan manusia yang perlu mengambil tanggung jawab tersebut.

Ini menciptakan rasa hati-hati yang alami: pemimpin kepatuhan harus menimbang manfaat pemantauan yang lebih cepat dengan risiko kemungkinan sanksi regulasi. Dan sampai sistem AI menjadi lebih dapat dijelaskan dan transparan, kemungkinan besar banyak perusahaan akan enggan membiarkannya membuat keputusan secara otonom.

Bagaimana Melangkah dengan Adopsi AI Secara Bertanggung Jawab

Pelajaran yang sangat penting untuk diambil dari semuanya di atas adalah bahwa keraguan pemimpin kepatuhan tidak berarti mereka anti-AI. Faktanya, banyak yang optimis tentang peran AI di masa depan. Hal penting adalah menemukan cara yang tepat untuk maju.

Menurut saya, jalur yang paling alami dan menjanjikan yang tersedia bagi kita adalah mengadopsi model hibrida. Kolaborasi antara manusia dan AI, di mana kecerdasan buatan melakukan pekerjaan berat — memindai transaksi, menandai aktivitas yang tidak biasa, atau menghasilkan laporan. Dan ketika hasil akhirnya siap, manusia kemudian dapat meninjaunya, menginterpretasikan konteks keputusan AI, dan membuat keputusan akhir.

Tetapi untuk dapat menerapkan model semacam itu, perusahaan perlu memastikan bahwa sistem AI mereka dapat dijelaskan. Kepatuhan bukan hanya tentang mendeteksi risiko; ini tentang membuktikan bahwa keputusan adalah adil. Inilah mengapa pasar membutuhkan lebih banyak alat AI yang dapat menjelaskan output mereka dalam istilah yang sederhana.

Ini Bukan Tentang “Man vs. Mesin”

Secara realistis, saya tidak melihat AI menjadikan petugas kepatuhan usang. Yang lebih mungkin adalah bahwa peran mereka akan berubah — dari pelaksana menjadi manajer. Petugas akan menghabiskan lebih sedikit waktu untuk melakukan pemeriksaan sendiri dan sebaliknya memeriksa keputusan AI, menangani area abu-abu di mana mesin masih kurang.

Intinya, kepatuhan adalah bisnis manusia. Dan meskipun AI dapat membuat tim kepatuhan lebih cepat dan lebih efektif, itu tidak dapat menangani tanggung jawab moral dan regulasi yang menyertainya.

Inilah mengapa saya yakin bahwa masa depan kepatuhan akan lebih sedikit tentang “man versus machine” dan lebih banyak tentang “man with machine” — bekerja sama untuk menjaga sistem keuangan tetap aman dan adil.