AI dalam Kepatuhan Bukanlah Kotak Hitam — Ini adalah Ujian Akuntabilitas: Wawancara dengan Roman Eloshvili

Roman Eloshvili adalah pendiri ComplyControl, sebuah startup deteksi kepatuhan dan fraud berbasis AI untuk institusi keuangan.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh para eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Apa yang AI dalam Kepatuhan Benar-Benar Uji: Teknologi, atau Kita?

Dalam layanan keuangan, kepatuhan tidak lagi sekadar sebuah fungsi. Ini adalah titik tekan aktif—tempat regulasi, risiko, dan operasional bertemu. Ketika teknologi AI diperkenalkan ke ruang ini, satu pertanyaan terus muncul kembali: seberapa banyak yang benar-benar bisa kita otomatisasi, dan siapa yang tetap bertanggung jawab ketika semuanya berjalan salah?

Daya tarik AI dalam deteksi fraud dan kepatuhan sangat mudah dipahami. Institusi keuangan menghadapi ekspektasi yang terus meningkat untuk memproses data dalam jumlah besar, merespons ancaman yang terus berkembang, dan mematuhi regulasi yang berubah—tanpa mengorbankan kecepatan atau akurasi. Otomatisasi, khususnya ketika digerakkan oleh machine learning, menawarkan cara untuk mengurangi beban operasional. Namun, hal itu juga menimbulkan kekhawatiran yang lebih mendalam tentang tata kelola, kemampuan menjelaskan (explainability), dan kontrol.

Tensi ini bukan sekadar teori. Ini terjadi secara real-time, saat perusahaan keuangan menerapkan model AI ke peran yang sebelumnya diisi oleh analis manusia. Di balik layar, risiko baru muncul: false positive, celah audit, dan keputusan berbasis algoritma yang tetap tidak jelas bagi pengguna maupun regulator.

Pada saat yang sama, para profesional kepatuhan diminta untuk mengubah peran. Alih-alih memeriksa setiap transaksi secara manual, mereka kini mengawasi alat yang melakukannya. Penyusunan ulang ini—dari eksekutor menjadi evaluator—tidak hanya menuntut keterampilan teknis baru, tetapi juga rasa tanggung jawab etis dan prosedural yang lebih kuat. AI dapat menskalakan analisis data. AI dapat menandai ketidakkonsistenan. Namun, AI tidak bisa sepenuhnya menjelaskan maksud, menafsirkan konteks, atau menyerap kesalahan.

Memahami batasan ini sangat penting. Dan tidak banyak orang yang posisi terbaik untuk mengeksplorasinya selain Roman Eloshvili, pendiri perusahaan teknologi kepatuhan berbasis Inggris, ComplyControl. Pekerjaannya berada tepat di persimpangan antara risiko, otomatisasi, dan pengawasan—tempat efisiensi algoritmik bertemu dengan pemeriksaan regulasi.

Dengan lebih dari satu dekade di bidang ini, Roman telah melihat secara langsung bagaimana tim kepatuhan berkembang dan bagaimana AI membentuk ulang baik alur kerja maupun tanggung jawab mereka. Ia berpendapat bahwa janji AI bukan terletak pada menghapus peran manusia, melainkan pada mengubah bentuknya—membawa kejelasan baru tentang apa yang seharusnya ditangani mesin, dan apa yang masih harus dimiliki manusia.

Perubahan ini menuntut lebih dari sekadar peningkatan teknis. Ini menyerukan pergeseran budaya seputar akuntabilitas. Sistem yang transparan, proses yang bisa diaudit, dan tanggung jawab manusia yang ditetapkan dengan jelas kini bukan hanya fitur—melainkan standar minimal. Ketika AI diperkenalkan ke infrastruktur kritis, AI tidak hanya menyelesaikan masalah. AI memperkenalkan kategori keputusan baru yang memerlukan pengelolaan yang aktif dan strategis.

Dalam percakapan untuk FinTech Weekly ini, Roman memberikan pandangan yang berlandaskan kenyataan tentang apa yang diperlukan untuk mengintegrasikan AI secara bertanggung jawab ke dalam kepatuhan dan pencegahan fraud. Perspektifnya tidak memandang otomatisasi sebagai keniscayaan, melainkan sebagai sebuah pilihan—pilihan yang menuntut pertimbangan manusia yang berkelanjutan, kejelasan operasional, serta kesediaan untuk mengajukan pertanyaan sulit tentang di mana sesungguhnya kepercayaan itu berada.

Kami senang membagikan wawasannya pada saat banyak pihak di fintech sedang bertanya bukan apakah harus mengadopsi AI—melainkan bagaimana melakukannya tanpa kehilangan perhatian pada standar yang membuat sistem keuangan bekerja sejak awal.

1. Anda telah membangun karier di persimpangan kepatuhan dan teknologi. Bisakah Anda mengingat momen ketika Anda menyadari bahwa AI bisa mengubah secara mendasar cara manajemen risiko dilakukan?

Saya tidak akan mengatakan bahwa itu hanya satu momen spesifik yang mengubah semuanya. Sebaliknya, itu adalah proses yang menyebar. Saya telah menghabiskan sebagian besar karier saya bekerja dengan bank-bank Eropa yang sudah mapan, dan satu hal yang terus saya perhatikan adalah banyak di antara mereka jauh tertinggal dalam hal solusi perbankan digital. Perbedaannya terlihat sangat jelas dibandingkan dengan hub fintech yang lebih maju.

Beberapa tahun lalu, ketika topik pengembangan AI mulai memanas lagi, saya secara alami menjadi penasaran dan menelusurinya. Dan saat saya mempelajari teknologi itu beserta cara kerjanya, saya menyadari bahwa kecerdasan buatan memiliki potensi untuk mengubah secara drastis cara bank menangani kepatuhannya—membuat mereka lebih setara dengan pemain fintech modern yang lebih lincah.

Itulah yang mendorong saya meluncurkan perusahaan saya pada 2023. Kompleksitas kepatuhan dan manajemen risiko terus bertambah dari tahun ke tahun. Menghadapi kenyataan ini, misi kami sederhana: menghadirkan solusi berbasis AI bagi perusahaan keuangan dan membantu mereka menghadapi tantangan yang terus menumpuk itu dengan cara yang lebih efektif.

2. Dari perspektif profesional Anda, bagaimana peran spesialis manusia berkembang ketika alat AI menjadi semakin maju dalam kepatuhan dan deteksi fraud?

Sebelum mengatakan apa pun, izinkan saya menanggapi satu hal tepat dari awal. Ada kekhawatiran yang umum di banyak bidang mengenai apakah AI akan menggantikan pekerja manusia. Dan sejauh menyangkut para profesional kepatuhan dan risiko, jawaban saya tidak—setidaknya, bukan dalam waktu dekat.

Meskipun kecerdasan buatan sudah mentransformasi industri kita, kecerdasan itu masih jauh dari sempurna. Karena itu, keterlibatan manusia tetap menjadi faktor yang penting. Regulasi kepatuhan berubah terus-menerus, dan seseorang harus mampu memikul tanggung jawab ketika sistem tidak mampu mengikuti atau membuat kesalahan. Pada tingkat pengembangan saat ini, AI masih kesulitan menjelaskan keputusannya dengan jelas, sehingga AI belum siap untuk ditinggalkan sendirian. Apalagi di bidang yang kepercayaan dan transparansi adalah hal yang paling utama.

Namun demikian, AI secara aktif membuat proses kepatuhan menjadi lebih mudah. Misalnya, tergantung pada konfigurasi, sistem AI sekarang bisa menandai transaksi yang mencurigakan atau bahkan memblokirnya sementara sambil meminta verifikasi lebih lanjut. Tidak perlu manusia sungguhan untuk menyisir setiap detail secara manual, kecuali ada sesuatu yang benar-benar tampak janggal. Dan ketika sistem-sistem ini berkembang, kebutuhan akan pekerjaan manual akan terus berkurang, sehingga tim bisa lebih fokus pada tugas-tugas yang bernuansa dan benar-benar membutuhkan sentuhan manusia.

Saya yakin kita akan melihat munculnya model hibrida, di mana para ahli kepatuhan juga akan semakin mahir menggunakan alat AI. Mereka akan menjadi pihak yang mengimplementasikan dan memelihara sistem AI, sementara AI itu sendiri akan menyederhanakan pekerjaan mereka dengan memahami data yang kompleks dan memberikan rekomendasi. Namun, penilaian akhir akan tetap berada pada manusia.

3. Saat bekerja dengan AI di area sensitif seperti kepatuhan keuangan, bagaimana Anda secara pribadi mendekati tantangan untuk menjaga kepercayaan dan akuntabilitas dalam pengambilan keputusan?

Tentu. Seperti yang sudah saya sebutkan sebelumnya, ketika Anda menggunakan AI dalam kepatuhan, kepercayaan itu krusial.

Itulah sebabnya kami membangun sistem AI kami agar sepenuhnya transparan. Sistem kami tidak beroperasi seperti “kotak hitam”—setiap rekomendasi yang dibuat oleh sistem didasarkan pada aturan dan data yang dapat dilacak. Kami menyimpan jejak audit penuh tentang bagaimana setiap keputusan dibuat, sehingga dapat dijelaskan sepenuhnya. Praktik ini sudah terbukti sangat berharga saat berhadapan dengan regulator.

Panggilan final selalu berada di tangan petugas kepatuhan. AI hanya menawarkan saran yang beralasan, yang kemudian dapat dengan mudah diperiksa oleh manusia untuk memutuskan apakah akan menyetujui atau menolaknya.

4. Pengalaman Anda mencakup lebih dari 10 tahun. Bagaimana pola pikir Anda tentang otomatisasi dan pengawasan manusia berubah sepanjang karier Anda, terutama sekarang ketika AI menjadi lebih otonom?

Tentu. Berbicara lebih luas tentang kondisi adopsi AI, semakin jauh teknologi ini berkembang, semakin banyak otonomi yang secara bertahap kita izinkan—selama teknologi tersebut diuji secara menyeluruh dan terus terbukti andal.

Namun, yang berubah bahkan lebih besar adalah bagian yang dimainkan spesialis manusia dalam persamaan ini. Alih-alih mengatur mikro setiap kasus, petugas kepatuhan kini semakin berperan sebagai pengawas strategis. Mereka bisa meninjau seluruh kelompok kasus serupa dalam waktu singkat, memvalidasi kinerja sistem, dan menyetel ulang model berdasarkan hasil.

Dengan kata lain, peran faktual petugas kepatuhan sedang beralih dari mengerjakan pekerjaan secara manual menuju mengelola sistem AI saat sistem AI mengerjakan pekerjaan itu untuk mereka.

5. Bekerja dalam manajemen risiko yang digerakkan oleh AI berarti menavigasi pertanyaan etika yang kompleks. Bagaimana Anda secara pribadi mengembangkan kerangka kerja untuk membuat pilihan yang bertanggung jawab ketika merancang atau mengimplementasikan solusi berbasis AI?

Pendekatan kami dibangun di sekitar dua gagasan kunci: pengawasan yang jelas dan prinsip Responsible AI. Setiap model yang kami gunakan memiliki seseorang yang ditugaskan sebagai penanggung jawabnya. Penilaian risiko, peninjauan kinerja, dan pemeriksaan kepatuhan semuanya dilakukan secara berkala.

Kami juga memastikan sistem kami dapat diaudit. Jika algoritma membuat keputusan, proses tersebut dapat ditinjau dan diverifikasi. Transparansi ini adalah bagian inti dari komitmen kami untuk pengembangan AI yang bertanggung jawab.

6. Dalam perjalanan Anda, pelajaran profesional apa yang paling sulit yang Anda pelajari tentang batas—atau risiko—dari terlalu bergantung pada otomatisasi di bidang kritis seperti pencegahan fraud?

Satu pelajaran yang pasti perlu kita ingat adalah bahwa bahkan model yang sudah terlatih dengan baik masih bisa “halusinasi”—bisa keliru dengan cara yang halus namun serius.

AI bisa melewatkan skema fraud yang kompleks, atau AI mungkin memicu terlalu banyak peringatan palsu. Itulah tepatnya mengapa menggabungkan AI dengan keahlian manusia sangat penting—manusia membawa pertimbangan yang luwes dan lebih mampu menilai etika serta konteks keseluruhan dalam cara yang tidak sanggup dilakukan oleh AI.

Keseimbangan di antara dua janji tersebut akan menghasilkan hasil yang lebih baik dan lebih andal. AI dapat digunakan untuk menutup besarnya volume tugas dan menyederhanakan kompleksitasnya, sementara manusia, pada gilirannya, digunakan untuk menjaga tingkat akurasi dan kepercayaan yang tepat.

7. Untuk para profesional muda yang masuk ke kepatuhan, manajemen risiko, atau pengembangan AI saat ini, prinsip pribadi atau kebiasaan apa yang akan Anda sarankan untuk mereka kembangkan agar berhasil dan beradaptasi di lingkungan yang berubah begitu cepat?

Pertama dan terutama: jangan pernah berhenti belajar. Kemajuan teknologi tidak punya tombol “pause”, dan Anda perlu terus mengikuti atau akan tertinggal. Tidak ada jalan tengah di sini.

Kedua, pikirkan secara luas. Dengan kemajuan AI, batas antar peran semakin kabur—teknologi, keuangan, dan regulasi menjadi paket campuran. Saya yakin memiliki beragam kemampuan dan pikiran yang terbuka akan menjadi ciri penentu bagi profesional masa depan di bidang ini.

Ketiga—dan ini kelanjutan alami dari dua yang sebelumnya—jadilah adaptif. Perubahan adalah hal yang konstan, dan kemampuan untuk menyesuaikan diri dengan cepat akan menjadi keuntungan besar bagi Anda.

Dan terakhir, kembangkan keterampilan komunikasi yang kuat dan pelajari untuk menjadi pemain tim. Seperti yang sudah kita bahas, kepatuhan berada di persimpangan antara bisnis, teknologi, dan hukum. Karena itu, kemampuan untuk berganti cara berpikir dan berbicara dengan orang-orang dari semua dunia tersebut akan menjadi keterampilan yang berharga untuk dipelajari.