Lapisan Penilaian: Mengapa AI Tidak Cerdas Hingga Pemimpin Lebih Cerdas

Guillermo Delgado Aparicio adalah Global AI Leader di Nisum.

Temukan berita dan acara fintech teratas!

Berlangganan buletin FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

AI di fintech mencakup berbagai kasus penggunaan, mulai dari deteksi penipuan dan perdagangan algoritmik hingga penilaian kredit dinamis dan rekomendasi produk yang dipersonalisasi. Namun, laporan Financial Conduct Authority menemukan bahwa dari 75% perusahaan yang menggunakan AI, hanya 34% yang mengetahui cara kerjanya.

Masalahnya bukan hanya kurangnya kesadaran. Ini adalah kesalahpahaman mendalam tentang kekuatan dan cakupan analitik data, disiplin ilmu dari mana AI berasal. Adopsi massal alat AI generatif telah membawa topik ini ke jajaran C-suite. Namun, banyak dari mereka yang memilih cara menerapkan AI tidak memahami prinsip-prinsip dasar kalkulus, statistik, dan algoritma lanjutan.

Ambil contoh Hukum Benford, sebuah prinsip statistik sederhana yang mendeteksi penipuan dengan melihat pola dalam angka. AI dibangun di atas jenis matematika yang sama, hanya saja diskalakan ke jutaan transaksi sekaligus. Hilangkan hype-nya, dan fondasinya tetaplah statistik dan algoritma.

Inilah mengapa literasi AI di level C-suite penting. Pemimpin yang tidak bisa membedakan di mana analitik berakhir berisiko terlalu mempercayai sistem yang tidak mereka pahami atau kurang menggunakannya karena takut. Dan sejarah menunjukkan apa yang terjadi ketika pembuat keputusan salah membaca teknologi: regulator pernah mencoba melarang panggilan IP internasional, hanya untuk menyaksikan teknologi tersebut melampaui aturan. Dinamika yang sama terjadi dengan AI. Anda tidak bisa memblokir atau mengadopsinya secara membabi buta; Anda membutuhkan penilaian, konteks, dan kemampuan untuk mengarahkannya secara bertanggung jawab.

Pemimpin fintech harus menutup kesenjangan ini untuk menggunakan AI secara bertanggung jawab dan efektif. Itu berarti memahami di mana analitik berakhir dan AI dimulai, membangun keterampilan untuk mengarahkan sistem ini, dan menerapkan penilaian yang baik untuk memutuskan kapan dan bagaimana mempercayai output mereka.

Keterbatasan, Titik Buta, dan Ilusi AI

Analitik menganalisis data masa lalu dan saat ini untuk menjelaskan apa yang terjadi dan mengapa. AI tumbuh dari fondasi itu, menggunakan analitik canggih untuk memprediksi apa yang akan terjadi selanjutnya dan, semakin sering, untuk memutuskan atau bertindak secara otomatis.

Dengan kemampuan pemrosesan data yang luar biasa, mudah untuk melihat mengapa pemimpin fintech menganggap AI sebagai peluru ajaib mereka. Tapi AI tidak bisa menyelesaikan setiap masalah. Manusia masih memiliki keunggulan bawaan dalam pengenalan pola, terutama ketika data tidak lengkap atau "kotor." AI bisa kesulitan menafsirkan nuansa kontekstual yang dapat dipahami manusia dengan cepat.

Namun, adalah kesalahan untuk berpikir bahwa data yang tidak sempurna membuat AI tidak berguna. Model analitik dapat bekerja dengan data yang tidak lengkap. Tapi mengetahui kapan harus menggunakan AI dan kapan harus mengandalkan penilaian manusia untuk mengisi celah adalah tantangan sebenarnya. Tanpa pengawasan yang cermat ini, AI dapat menimbulkan risiko yang signifikan.

Salah satu masalah tersebut adalah bias. Ketika perusahaan fintech melatih AI pada kumpulan data lama, mereka sering mewarisi beban yang menyertainya. Misalnya, nama depan pelanggan secara tidak sengaja dapat berfungsi sebagai proksi untuk jenis kelamin, atau nama belakang menyiratkan isyarat tentang etnis, memiringkan skor kredit dengan cara yang tidak akan disetujui oleh regulator mana pun. Bias ini, yang mudah tersembunyi dalam matematika, seringkali memerlukan pengawasan manusia untuk menangkap dan memperbaikinya.

Ketika model AI terpapar pada situasi yang tidak dilatih, hal ini dapat menyebabkan model drift. Volatilitas pasar, perubahan peraturan, perilaku pelanggan yang berkembang, dan pergeseran ekonomi makro semuanya dapat mempengaruhi efektivitas model tanpa pemantauan dan kalibrasi ulang oleh manusia.

Kesulitan mengkalibrasi ulang algoritma meningkat tajam ketika perusahaan fintech menggunakan kotak hitam yang tidak memungkinkan visibilitas ke dalam hubungan antar variabel. Dalam kondisi ini, mereka kehilangan kemungkinan untuk mentransfer pengetahuan itu kepada para pengambil keputusan di manajemen. Selain itu, kesalahan dan bias tetap tersembunyi dalam model yang buram, merusak kepercayaan dan kepatuhan.

Apa yang Perlu Diketahui Pemimpin Fintech

Survei Deloitte menemukan bahwa 80% mengatakan dewan mereka memiliki sedikit atau tanpa pengalaman dengan AI. Tapi eksekutif C-suite tidak bisa menganggap AI sebagai "masalah tim teknologi." Akuntabilitas AI ada pada kepemimpinan, yang berarti pemimpin fintech perlu meningkatkan keterampilan.

Kefasihan lintas-analitik

Sebelum menerapkan AI, pemimpin fintech harus bisa beralih—melihat angka, kasus bisnis, operasi, dan etika—dan melihat bagaimana faktor-faktor itu tumpang tindih dan membentuk hasil AI. Mereka perlu memahami bagaimana akurasi statistik suatu model berhubungan dengan eksposur risiko kredit. Dan mengenali ketika suatu variabel yang terdengar sehat secara finansial (seperti riwayat pembayaran) dapat menimbulkan risiko sosial atau peraturan melalui korelasi dengan kelas yang dilindungi, seperti usia atau etnis.

Kefasihan AI ini datang dari duduk bersama petugas kepatuhan untuk menguraikan peraturan, berbicara dengan manajer produk tentang pengalaman pengguna, dan meninjau hasil model dengan ilmuwan data untuk mendeteksi tanda-tanda drift atau bias.

Di fintech, menghindari risiko 100% tidak mungkin, tetapi dengan kefasihan lintas-analitik, pemimpin dapat menentukan risiko mana yang layak diambil dan mana yang akan mengikis nilai pemegang saham. Keterampilan ini juga mempertajam kemampuan seorang pemimpin untuk melihat dan bertindak terhadap bias, tidak hanya dari sudut pandang kepatuhan, tetapi dari sudut pandang strategis dan etis.

Misalnya, katakanlah model penilaian kredit berbasis AI sangat condong ke satu kelompok pelanggan. Memperbaiki ketidakseimbangan itu bukan hanya tugas ilmu data; itu melindungi reputasi perusahaan. Untuk perusahaan fintech yang berkomitmen pada inklusi keuangan atau menghadapi pengawasan ESG, kepatuhan hukum saja tidak cukup. Penilaian berarti mengetahui apa yang benar, bukan hanya apa yang diizinkan.

Literasi Explainability

Explainability adalah fondasi kepercayaan. Tanpanya, pengambil keputusan, pelanggan, dan regulator akan bertanya-tanya mengapa model sampai pada kesimpulan tertentu.

Itu berarti eksekutif harus mampu membedakan antara model yang dapat diinterpretasikan dan yang memerlukan penjelasan pasca-hoc (seperti nilai SHAP atau LIME). Mereka perlu mengajukan pertanyaan ketika logika model tidak jelas dan mengenali ketika "akurasi" saja tidak dapat membenarkan keputusan kotak hitam.

Bias tidak muncul begitu saja; ia muncul ketika model dilatih dan digunakan tanpa pengawasan yang memadai. Explainability memberi pemimpin visibilitas untuk mendeteksi masalah tersebut sejak dini dan bertindak sebelum menyebabkan kerusakan.

AI seperti autopilot di pesawat. Sebagian besar waktu, ia berjalan lancar, tetapi ketika badai datang, pilot harus mengambil kendali. Di bidang keuangan, prinsip yang sama berlaku. Tim perlu kemampuan untuk menghentikan perdagangan, menyesuaikan strategi, atau bahkan menarik peluncuran produk ketika kondisi berubah. Explainability bekerja bersama dengan kesiapan override, yang memastikan pemimpin C-suite memahami AI dan tetap mengendalikannya, bahkan ketika beroperasi dalam skala besar.

Pemikiran Model Probabilistik

Eksekutif terbiasa dengan keputusan deterministik, misalnya jika skor kredit di bawah 650, tolak aplikasi. Tapi AI tidak bekerja seperti itu dan ini adalah pergeseran paradigma mental yang besar.

Bagi para pemimpin, pemikiran probabilistik membutuhkan tiga kemampuan:

*   Menafsirkan rentang risiko daripada hasil ya/tidak biner.
*   Mempertimbangkan tingkat kepercayaan dari suatu prediksi terhadap pertimbangan bisnis atau peraturan lainnya.
*   Mengetahui kapan harus menimpa otomatisasi dan menerapkan kebijaksanaan manusia.

Misalnya, model AI probabilistik sebuah perusahaan fintech mungkin menandai pelanggan sebagai berisiko tinggi, tapi itu tidak berarti "tolak." Itu bisa berarti "selidiki lebih lanjut" atau "sesuaikan persyaratan pinjaman." Tanpa nuansa ini, otomatisasi berisiko menjadi alat tumpul, mengikis kepercayaan pelanggan sambil membuat perusahaan terpapar dampak peraturan.

Mengapa Lapisan Penilaian Akan Menentukan Pemenang Fintech

Masa depan fintech tidak akan ditentukan oleh siapa yang memiliki model AI paling kuat; melainkan, siapa yang menggunakannya dengan penilaian paling tajam. Ketika AI menjadi komoditas, keuntungan efisiensi menjadi taruhan dasar. Yang membedakan pemenang adalah kemampuan untuk turun tangan ketika algoritma menghadapi ketidakpastian, risiko, dan zona abu-abu etis.

Lapisan penilaian bukanlah ide abstrak. Itu muncul ketika eksekutif memutuskan untuk menghentikan perdagangan otomatis, menunda peluncuran produk, atau menimpa skor risiko yang tidak mencerminkan konteks dunia nyata. Momen-momen ini bukanlah kegagalan AI; itu adalah bukti bahwa pengawasan manusia adalah garis akhir penciptaan nilai.

Penyelarasan strategis adalah tempat penilaian menjadi terlembagakan. Strategi AI yang kuat tidak hanya menyusun peta jalan teknis; ia memastikan organisasi meninjau kembali inisiatif, meningkatkan kemampuan AI tim, memastikan perusahaan memiliki arsitektur data yang diperlukan, dan menghubungkan setiap penerapan dengan hasil bisnis yang jelas. Dalam pengertian ini, penilaian tidak bersifat episodik tetapi dibangun ke dalam mode operasi dan memungkinkan eksekutif untuk mendorong pendekatan kepemimpinan berbasis nilai.

Perusahaan fintech membutuhkan pemimpin yang tahu cara menyeimbangkan AI untuk kecepatan dan skala, serta manusia untuk konteks, nuansa, dan visi jangka panjang. AI dapat menemukan anomali dalam hitungan detik, tetapi hanya manusia yang dapat memutuskan kapan harus menolak matematika, memikirkan kembali asumsi, atau mengambil risiko berani yang membuka pintu menuju pertumbuhan. Lapisan penilaian itulah yang mengubah AI dari alat menjadi keunggulan.

Tentang penulis:

Guillermo Delgado adalah Global AI Leader untuk Nisum dan COO Deep Space Biology. Dengan pengalaman lebih dari 25 tahun di bidang biokimia, kecerdasan buatan, biologi luar angkasa, dan kewirausahaan, ia mengembangkan solusi inovatif untuk kesejahteraan manusia di Bumi dan di luar angkasa.

Sebagai konsultan strategi perusahaan, ia telah berkontribusi pada visi AI NASA untuk biologi luar angkasa dan telah menerima penghargaan inovasi. Ia meraih gelar Master of Science dalam Kecerdasan Buatan dari Georgia Tech, yang diperoleh dengan pujian. Selain itu, sebagai profesor universitas, ia telah mengajar mata kuliah tentang pembelajaran mesin, big data, dan ilmu genomik.