Lapisan Penilaian: Mengapa AI Tidak Cerdas Sampai Pemimpin Lebih Pintar

Guillermo Delgado Aparicio adalah Pemimpin AI Global di Nisum.

Temukan berita dan acara fintech teratas!

Langganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

AI dalam fintech mencakup berbagai kasus penggunaan, dari deteksi penipuan dan perdagangan algoritmik hingga penilaian kredit dinamis dan rekomendasi produk yang dipersonalisasi. Namun, laporan Otoritas Perilaku Keuangan menemukan bahwa dari 75% perusahaan yang menggunakan AI, hanya 34% yang tahu bagaimana cara kerjanya.

Masalahnya bukan hanya kurangnya kesadaran. Ini adalah pemahaman yang mendalam tentang kekuatan dan lingkup analisis data, disiplin dari mana AI berasal. Adopsi massal alat AI generatif telah membawa topik ini ke tingkat eksekutif. Tetapi banyak dari mereka yang memilih cara untuk menerapkan AI tidak memahami prinsip dasar kalkulus, statistik, dan algoritma lanjutan.

Ambil Hukum Benford, sebuah prinsip statistik sederhana yang menandai penipuan dengan menemukan pola dalam angka. AI membangun dari jenis matematika yang sama, hanya saja diperluas ke jutaan transaksi sekaligus. Singkirkan semua hype, dan dasar dari semua ini tetaplah statistik dan algoritma.

Inilah mengapa literasi AI di tingkat C sangat penting. Pemimpin yang tidak dapat membedakan di mana analisis berakhir berisiko terlalu mempercayai sistem yang tidak mereka pahami atau kurang memanfaatkannya karena ketakutan. Dan sejarah menunjukkan apa yang terjadi ketika pembuat keputusan salah membaca teknologi: regulator pernah mencoba melarang panggilan IP internasional, hanya untuk melihat teknologi tersebut melampaui aturan yang ada. Dinamika yang sama sedang terjadi dengan AI. Anda tidak bisa memblokir atau mengadopsinya secara membabi buta; Anda memerlukan penilaian, konteks, dan kemampuan untuk mengarahkan dengan bertanggung jawab.

Para pemimpin fintech harus menutup celah ini untuk menggunakan AI dengan bertanggung jawab dan efektif. Itu berarti memahami di mana analisis berakhir dan AI dimulai, membangun keterampilan untuk mengarahkan sistem ini, dan menerapkan penilaian yang tepat untuk memutuskan kapan dan bagaimana mempercayai keluaran mereka.

Batasan, Titik Buta, dan Ilusi AI

Analisis menganalisis data masa lalu dan sekarang untuk menjelaskan apa yang terjadi dan mengapa. AI tumbuh dari dasar itu, menggunakan analitik lanjutan untuk memprediksi apa yang akan terjadi selanjutnya dan, semakin, untuk memutuskan atau bertindak secara otomatis.

Dengan keterampilan pemrosesan data yang luar biasa, mudah untuk melihat mengapa pemimpin fintech akan melihat AI sebagai peluru ajaib mereka. Tetapi AI tidak dapat menyelesaikan setiap masalah. Manusia masih memiliki keuntungan bawaan dalam pengenalan pola, terutama ketika data tidak lengkap atau “kotor.” AI dapat kesulitan untuk menafsirkan nuansa kontekstual yang dapat dengan cepat dipahami oleh manusia.

Namun, adalah kesalahan untuk berpikir bahwa data yang tidak sempurna membuat AI tidak berguna. Model analitis dapat bekerja dengan data yang tidak lengkap. Tetapi mengetahui kapan harus menerapkan AI dan kapan harus mengandalkan penilaian manusia untuk mengisi kekosongan adalah tantangan yang sebenarnya. Tanpa pengawasan yang cermat ini, AI dapat memperkenalkan risiko yang signifikan.

Salah satu masalah tersebut adalah bias. Ketika fintech melatih AI pada dataset lama, mereka sering mewarisi beban yang menyertainya. Misalnya, nama depan seorang pelanggan mungkin secara tidak sengaja berfungsi sebagai proksi untuk jenis kelamin, atau nama keluarga yang diambil dapat memberikan isyarat tentang etnisitas, memiringkan skor kredit dengan cara yang tidak akan disetujui oleh regulator. Bias ini, yang mudah tersembunyi dalam matematika, sering kali memerlukan pengawasan manusia untuk menangkap dan memperbaiki.

Ketika model AI terpapar pada situasi yang tidak mereka latih, ini dapat menyebabkan model drift. Volatilitas pasar, perubahan regulasi, perilaku pelanggan yang berkembang, dan pergeseran makroekonomi dapat mempengaruhi efektivitas model tanpa pemantauan dan kalibrasi manusia.

Kesulitan dalam mengkalibrasi algoritma meningkat tajam ketika fintech menggunakan kotak hitam yang tidak memungkinkan visibilitas ke dalam hubungan antara variabel. Dalam kondisi ini, mereka kehilangan kemungkinan untuk mentransfer pengetahuan tersebut kepada pengambil keputusan di manajemen. Selain itu, kesalahan dan bias tetap tersembunyi dalam model yang tidak transparan, merusak kepercayaan dan kepatuhan.

Apa yang Perlu Diketahui Pemimpin Fintech

Sebuah survei Deloitte menemukan bahwa 80% mengatakan dewan mereka memiliki sedikit atau tidak ada pengalaman dengan AI. Namun eksekutif tingkat C tidak dapat memperlakukan AI sebagai “masalah tim teknologi.” Akuntabilitas AI terletak pada kepemimpinan, yang berarti pemimpin fintech perlu meningkatkan keterampilan mereka.

Kefasihan Analitis Silang

Sebelum meluncurkan AI, pemimpin fintech perlu mampu beralih fokus—melihat angka, kasus bisnis, operasi, dan etika—dan melihat bagaimana faktor-faktor tersebut saling tumpang tindih dan membentuk hasil AI. Mereka perlu memahami bagaimana akurasi statistik suatu model berkaitan dengan eksposur risiko kredit. Dan mengenali kapan variabel yang terlihat secara finansial sehat (seperti riwayat pembayaran) dapat memperkenalkan risiko sosial atau regulasi melalui korelasi dengan kelas yang dilindungi, seperti usia atau etnis.

Kefasihan AI ini berasal dari berkolaborasi dengan petugas kepatuhan untuk memahami regulasi, berbicara dengan manajer produk tentang pengalaman pengguna, dan meninjau hasil model dengan ilmuwan data untuk menangkap tanda-tanda drift atau bias.

Dalam fintech, penghindaran risiko 100% tidak mungkin, tetapi dengan kefasihan analitis silang, pemimpin dapat menentukan risiko mana yang layak diambil dan mana yang akan mengikis nilai pemegang saham. Keterampilan ini juga meningkatkan kemampuan pemimpin untuk mengidentifikasi dan bertindak terhadap bias, tidak hanya dari sudut pandang kepatuhan, tetapi dari sudut pandang strategis dan etis.

Misalnya, katakanlah model penilaian kredit yang didorong oleh AI sangat condong ke satu kelompok pelanggan. Memperbaiki ketidakseimbangan itu bukan hanya pekerjaan ilmu data; itu melindungi reputasi perusahaan. Bagi fintech yang berkomitmen pada inklusi finansial atau menghadapi pengawasan ESG, kepatuhan hukum saja tidak cukup. Penilaian berarti mengetahui apa yang benar, bukan sekadar apa yang diizinkan.

Literasi Penjelasan

Penjelasan adalah dasar dari kepercayaan. Tanpa itu, pengambil keputusan, pelanggan, dan regulator akan bertanya-tanya mengapa model mencapai kesimpulan tertentu.

Itu berarti eksekutif harus dapat membedakan antara model yang dapat diinterpretasikan dan yang memerlukan penjelasan setelah fakta (seperti nilai SHAP atau LIME). Mereka perlu mengajukan pertanyaan ketika logika model tidak jelas dan mengenali kapan “akurasi” saja tidak dapat membenarkan keputusan kotak hitam.

Bias tidak muncul dari ketiadaan; itu muncul ketika model dilatih dan diterapkan tanpa pengawasan yang memadai. Penjelasan memberikan visibilitas kepada pemimpin untuk mendeteksi masalah tersebut lebih awal dan bertindak sebelum mereka menyebabkan kerusakan.

AI seperti autopilot di pesawat. Sebagian besar waktu, ia berjalan dengan lancar, tetapi ketika badai datang, pilot harus mengambil kendali. Dalam keuangan, prinsip yang sama berlaku. Tim perlu memiliki kemampuan untuk menghentikan perdagangan, menyesuaikan strategi, atau bahkan menghentikan peluncuran produk ketika kondisi berubah. Penjelasan bekerja berdampingan dengan kesiapan untuk mengesampingkan, yang memastikan pemimpin tingkat C memahami AI dan tetap mengontrol, bahkan ketika ia beroperasi dalam skala besar.

Pemikiran Model Probabilistik

Eksekutif terbiasa dengan keputusan deterministik, seperti jika skor kredit di bawah 650, tolak aplikasi. Tetapi AI tidak bekerja seperti itu dan ini adalah perubahan paradigma mental yang besar.

Bagi para pemimpin, pemikiran probabilistik memerlukan tiga kemampuan:

*   Menginterpretasikan rentang risiko daripada hasil ya/tidak biner.
*   Menimbang tingkat kepercayaan dari prediksi terhadap pertimbangan bisnis atau regulasi lainnya.
*   Mengetahui kapan harus mengesampingkan otomatisasi dan menerapkan kebijaksanaan manusia.

Misalnya, model AI probabilistik dari suatu fintech mungkin menandai seorang pelanggan sebagai risiko tinggi, tetapi itu tidak berarti “tolak.” Itu mungkin berarti “selidiki lebih lanjut” atau “sesuaikan syarat pinjaman.” Tanpa nuansa ini, otomatisasi berisiko menjadi alat yang tumpul, mengikis kepercayaan pelanggan sambil mengekspos perusahaan terhadap backlash regulasi.

Mengapa Lapisan Penilaian Akan Menentukan Pemenang Fintech

Masa depan fintech tidak akan ditentukan oleh siapa yang memiliki model AI paling kuat; melainkan, siapa yang menggunakannya dengan penilaian yang paling tajam. Seiring AI menjadi komoditas, peningkatan efisiensi menjadi taruhan dasar. Apa yang memisahkan pemenang adalah kemampuan untuk turun tangan ketika algoritma menghadapi ketidakpastian, risiko, dan zona abu-abu etis.

Lapisan penilaian bukanlah ide abstrak. Ini muncul ketika eksekutif memutuskan untuk menghentikan perdagangan otomatis, menunda peluncuran produk, atau mengesampingkan skor risiko yang tidak mencerminkan konteks dunia nyata. Momen-momen ini bukanlah kegagalan AI; mereka adalah bukti bahwa pengawasan manusia adalah garis terakhir dalam penciptaan nilai.

Penyelarasan strategis adalah tempat penilaian menjadi terinstitusionalisasi. Strategi AI yang kuat tidak hanya menetapkan peta jalan teknis; itu memastikan organisasi meninjau kembali inisiatif, meningkatkan kemampuan AI tim, memastikan perusahaan memiliki arsitektur data yang diperlukan, dan mengaitkan setiap penerapan dengan hasil bisnis yang jelas. Dalam pengertian ini, penilaian bukanlah episodik tetapi terbangun dalam mode operasional dan memungkinkan eksekutif untuk mendorong pendekatan kepemimpinan berbasis nilai.

Fintech perlu pemimpin yang tahu bagaimana menyeimbangkan AI untuk kecepatan dan skala serta manusia untuk konteks, nuansa, dan visi jangka panjang. AI dapat menemukan anomali dalam hitungan detik, tetapi hanya manusia yang dapat memutuskan kapan untuk menolak matematika, memikirkan kembali asumsi, atau mengambil risiko berani yang membuka pintu untuk pertumbuhan. Lapisan penilaian itulah yang mengubah AI dari alat menjadi keunggulan.

Tentang penulis:

Guillermo Delgado adalah Pemimpin AI Global untuk Nisum dan COO dari Deep Space Biology. Dengan lebih dari 25 tahun pengalaman dalam biokimia, kecerdasan buatan, biologi luar angkasa, dan kewirausahaan, ia mengembangkan solusi inovatif untuk kesejahteraan manusia di Bumi dan di luar angkasa.

Sebagai konsultan strategi korporat, ia telah berkontribusi pada visi AI NASA untuk biologi luar angkasa dan telah menerima penghargaan inovasi. Ia memiliki gelar Master of Science dalam Kecerdasan Buatan dari Georgia Tech, yang diperoleh dengan pujian. Selain itu, sebagai profesor universitas, ia telah mengajar kursus tentang pembelajaran mesin, big data, dan ilmu genom.