AI, Kepercayaan, dan Mereka yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech teratas!

Berlangganan buletin newsletter FinTech Weekly

Dibaca oleh para eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Kecerdasan buatan (AI) finansial masih punya perjalanan panjang — bukan hanya dalam hal kecepatan, akurasi, atau bahkan regulasi, tetapi dalam cara AI tersebut memperoleh kepercayaan. Terutama dari mereka yang tidak secara tradisional menjadi yang pertama mengantri saat teknologi baru diperkenalkan.

Di FinTech Weekly, kami telah mengikuti pekerjaan Commonwealth, sebuah nirlaba yang berfokus pada pembangunan keamanan finansial bagi rumah tangga berpenghasilan rendah hingga menengah (LMI). Survei lapangan mereka, yang dibahas dalam editorial terbaru kami, mengungkap ketegangan yang jelas: sementara pengguna LMI terbuka terhadap alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan sekadar fitur yang didaur ulang yang dibuat untuk orang lain.

Minggu ini, kami menggali lebih dalam.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang benar-benar dibutuhkan agar AI efektif — dan aman — bagi komunitas yang kurang terlayani. Mulai dari prinsip desain hingga kepercayaan yang diperoleh, dari co-pilot hingga kelelahan chatbot, ia menjelaskan mengapa niat lebih penting daripada inovasi semata.

Ini adalah pandangan yang membumi dan penuh pertimbangan tentang seperti apa — dan seharusnya — teknologi finansial inklusif itu.

Baca wawancara lengkapnya di bawah ini.

2.  Kolaborasi terbaru Commonwealth dengan JPMorganChase memberikan wawasan penting tentang peran AI dalam meningkatkan keamanan finansial bagi rumah tangga LMI. Temuan apa yang paling mengejutkan atau paling berdampak dari penelitian ini?

Penelitian kami menyoroti potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas yang hidup dengan pendapatan lebih rendah —  asalkan chatbot dirancang dengan saksama dengan mempertimbangkan kebutuhan dan perspektif kelompok ini.

Dua temuan kunci:

*   Para pelanggan sebagian besar memandang chatbot sebagai alat positif untuk meningkatkan kesejahteraan finansial mereka. Data kami menunjukkan bahwa 57% responden mengatakan penggunaan chatbot membuat situasi keuangan mereka membaik. Penelitian juga menunjukkan bahwa orang dengan pendapatan rendah hingga menengah (LMI) menginginkan fitur untuk membangun kredit, penganggaran, dan pengelolaan utang.

*   Responden menghargai ruang tanpa penilaian dengan chatbot untuk mengajukan pertanyaan keuangan yang sensitif tanpa khawatir pada rasa malu atau rasa tidak nyaman yang mungkin menyertai percakapan yang sama jika terjadi secara tatap muka dengan perwakilan manusia.

3.  Menurut Anda, bagaimana AI percakapan akan berkembang di ruang layanan keuangan, khususnya untuk komunitas yang kurang terlayani?

Idealnya, generasi berikutnya chatbot yang didukung AI generatif akan menjadi asisten finansial AI yang lebih baik mendukung aktivitas finansial rumah tangga-rumah tangga ini, serta memperoleh kepercayaan dari populasi yang sering berhati-hati terhadap keterlibatan dengan sistem keuangan dan berbagi data secara online. Ada peluang besar bagi penyedia layanan keuangan untuk menawarkan kemampuan chatbot yang lebih kompleks, lebih bernuansa, dan berorientasi tindakan.

Ketika pelanggan menggunakan chatbot keuangan saat ini, mereka terutama mencari informasi akun atau mencoba menyelesaikan suatu masalah. Kurang dari 20% responden survei nasional kami telah menggunakan chatbot untuk saran dan edukasi keuangan, rekomendasi produk, mengajukan kredit atau pinjaman, serta membuka atau menutup akun. Namun, penelitian kami menemukan adanya permintaan untuk chatbot yang dapat membantu jenis tindakan perbankan tersebut. Memfokuskan pengembangan fitur-fitur semacam ini pada chatbot dapat meningkatkan penggunaan dan kegunaannya di kalangan pelanggan tersebut.

Untuk bank dan institusi keuangan yang belum siap meluncurkan co-pilot finansial berbasis AI generatif langsung kepada konsumen, teknologi ini dapat mendukung karyawan bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, lebih akurat, dan lebih tepat waktu kepada pelanggan selama interaksi.

4.  Tantangan apa saja yang paling besar dalam memastikan alat keuangan berbasis AI bersifat adil dan efektif bagi rumah tangga kulit hitam, Latinx, dan yang dipimpin perempuan?

Dengan semua teknologi yang muncul, perlu ada upaya yang disengaja untuk memastikan kebutuhan mereka yang berpenghasilan rendah hingga menengah dimasukkan dalam proses pengembangan dan keputusan desain. Kami telah menemukan bahwa kemitraan privat/filantropis dengan institusi keuangan sejak awal membantu membangun momentum untuk upaya-upaya ini. Dengan memperkuat basis bukti, kami juga membantu membangun landasan bisnis (business case).

Kami telah melihat potensi yang signifikan untuk panduan desain terkait peningkatan kepercayaan yang diperoleh yang dapat memungkinkan AI percakapan untuk mendukung kesehatan finansial tanpa peningkatan biaya yang besar.

5.  Berdasarkan penelitian Anda, prinsip desain utama apa yang sebaiknya dipertimbangkan penyedia layanan keuangan saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah membuat sebuah sumber daya, Financial AI for Good Guide, untuk memberikan panduan desain yang dapat ditindaklanjuti kepada penyedia layanan keuangan yang melayani populasi LMI. Kami menyusun rekomendasi ini berdasarkan riset komprehensif bersama institusi keuangan, penyedia chatbot, dan orang-orang yang tinggal di komunitas LMI.

Panduan ini disusun berdasarkan empat tujuan desain utama. Saya akan memberikan satu atau dua contoh untuk masing-masing:

2.  Earn trust: Kekhawatiran utama di antara mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah institusi keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang bank ambil, serta memberi pengguna kendali atas data apa yang disimpan.
4.  Drive engagement: Buat pengalaman di mana pengguna tahu apa yang alat-alat ini bisa lakukan untuk mereka dan kapan hal itu bisa dilakukan dengan menciptakan kejelasan mengenai fungsinya. Selain itu, lakukan “proaktivitas yang cerdas” (intelligent proactivity). Misalnya, integrasikan chatbot yang muncul saat mereka dapat paling berguna, tanpa terlalu memaksa atau agresif, yang bisa terkesan seperti spam.
6.  Increase value: Antisipasi kebutuhan pelanggan Anda. Akses terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan-tindakan kecil yang biasanya harus didatangi pelanggan ke bank. Seimbangkan otomatisasi dan kendali dengan memungkinkan pengguna menyalakan dan mematikan fitur keuangan otomatis, serta sertakan fitur “safety net” yang menghentikan pergerakan otomatis uang jika saldo jatuh di bawah ambang batas tertentu.
8.  Improve accessibility: Tawarkan dukungan multibahasa dan panduan yang disesuaikan dengan basis pelanggan Anda serta fokus pada fitur yang ramah seluler. Penelitian kami menunjukkan bahwa lebih dari separuh dari semua responden memilih mengakses layanan perbankan mereka melalui ponsel.

6.  Bisakah Anda berbagi kisah sukses atau studi kasus apa pun ketika AI percakapan secara signifikan meningkatkan kesejahteraan finansial individu LMI?

Apa yang kami ketahui adalah 57% pengguna dalam studi uji coba lapangan kami menyatakan bahwa menggunakan chatbot keuangan berdampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih berada pada tahap awal, dan penelitian berkelanjutan kami akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan finansial bagi individu LMI.

7.  Risiko atau konsekuensi tak diinginkan apa yang sebaiknya diwaspadai institusi keuangan ketika menerapkan alat keuangan berbasis AI?

Yang penting adalah orang-orang yang berpenghasilan LMI tidak dibiarkan keluar dari perhitungan. Ketika institusi keuangan mengembangkan alat, penting bagi mereka untuk memahami peluang yang melekat dan cara-cara untuk melayani basis pelanggan LMI.

Ada banyak lembaga yang secara khusus berfokus pada risiko dan konsekuensi bawaan dari alat berbasis AI, termasuk bias dan akurasi model bahasa besar. Selain itu, kami ingin memastikan bahwa satu kekhawatiran utama ditangani: relevansi rekomendasi keuangan bagi situasi keuangan individu pengguna. Institusi keuangan dapat meningkatkan keterlibatan pelanggan dan memperoleh kepercayaan mereka dengan memastikan informasi yang mereka berikan akurat dan ada transparansi yang nyata.

AI menghadirkan peluang yang belum pernah ada sebelumnya bagi orang-orang yang berpenghasilan LMI untuk mengakses saran dan alat yang sebelumnya tidak tersedia bagi mereka, baik berupa alat investasi maupun pengelolaan keuangan pribadi. Alat-alat ini dapat dipersonalisasi dan disesuaikan untuk orang-orang yang berpenghasilan LMI serta situasi unik mereka. Ini adalah peluang besar bagi penyedia layanan keuangan untuk memperluas basis pelanggannya.

8.  Bagaimana institusi keuangan dapat mengukur dampak nyata alat berbasis AI terhadap keamanan finansial dan kesejahteraan pengguna?

Dasar-dasar kesejahteraan finansial:  Apakah ada peningkatan tabungan, pengurangan utang, peningkatan skor kredit saat menggunakan alat-alat ini?

Kita juga dapat melakukan survei tentang pengalaman saat berinteraksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada peningkatan minat pada produk yang akan membantu meningkatkan kesejahteraan finansial? Ketika berbicara soal pemberian nasihat, apakah ada tindakan yang diambil setelah menerima nasihat?

Bank juga dapat melakukan pengujian A/B di antara kelompok konsumen yang berinteraksi dengan chatbot dibandingkan yang tidak, untuk melihat apakah ada perbedaan yang terukur di antara keduanya.

9.  Peran apa yang dimainkan pengawasan manusia dalam penerapan alat AI untuk layanan keuangan, dan bagaimana penyedia dapat menyeimbangkan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara untuk meningkatkan kepercayaan yang diperoleh terkait AI adalah memastikan ada manusia yang dapat diakses pada waktu-waktu yang tepat selama interaksi.  Di sinilah penggunaan co-pilot oleh karyawan bank yang berhadapan langsung dengan pelanggan dapat bermanfaat. Akses ke manusia yang benar-benar hidup saat dibutuhkan meningkatkan kepercayaan dan pengalaman dengan alat AI.

Menggunakan AI percakapan akan memungkinkan perwakilan layanan pelanggan melayani kebutuhan kompleks pelanggan dan anggota mereka dengan lebih baik dan lebih cepat, sekaligus memberikan sentuhan manusia pada titik-titik kunci dalam interaksi ketika agen langsung diinginkan.

Transparansi juga penting untuk membangun kepercayaan dalam setiap interaksi. Anda harus tahu, misalnya, apakah Anda sedang berbicara dengan chatbot atau dengan orang sungguhan.

10.  Ke depan, peluang paling menarik apa untuk AI dalam inklusi finansial selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan AI percakapan: menawarkan keterlibatan yang dipersonalisasi dan sensitif konteks pada tingkat yang jauh lebih mendekati dukungan manusia dibanding struktur decision-tree dari kebanyakan chatbot keuangan saat ini. Aplikasi awal AI generatif dalam bidang keuangan terutama berfokus pada aplikasi back-office, di mana ada peluang untuk mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi secara skala dalam konteks keuangan adalah peluang utama untuk mendorong pengembangan di sektor ini.

Membangun kepercayaan yang diperoleh akan sangat kritis untuk adopsi yang lebih luas terhadap AI generatif, karena peserta dalam uji lapangan dan kelompok fokus kami tetap lebih skeptis daripada chatbot tradisional. Namun, potensi manfaat untuk menyediakan tingkat dukungan yang lebih canggih di berbagai aplikasi layanan keuangan membuat AI generatif menjadi teknologi yang paling menarik untuk diperhatikan di sektor keuangan. Mereka yang mampu mengembangkan dukungan AI generatif yang tepercaya dan andal akan berada di garis depan era baru pembangunan hubungan pelanggan secara skala ini.

Beberapa peluang spesifik lain yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan finansial komprehensif yang disesuaikan dengan kebutuhan individu, semacam pelatih keuangan pribadi. Kami juga mengharapkan kemajuan dalam AI percakapan untuk memainkan peran berharga dalam mempromosikan kesehatan finansial para pekerja dengan menyediakan informasi dan panduan untuk menavigasi sistem manfaat karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth berkembang dalam membentuk penggunaan AI yang bertanggung jawab di layanan keuangan?

Secara historis, desain teknologi baru berfokus pada adopsi oleh konsumen berpenghasilan lebih tinggi sambil mengabaikan kebutuhan rumah tangga LMI. Melalui inisiatif Emerging Tech for All (ETA), kami berfokus pada memastikan kebutuhan orang-orang yang rentan secara finansial dipahami, terlihat, dimasukkan ke dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada pada titik kritis perubahan (inflection point) untuk menskalakan AI, dan kami percaya sangat mendesak untuk terus meneliti serta mengidentifikasi cara-cara di mana AI dapat berdampak positif pada populasi ini.

Riset dan adopsi yang relatif sedikit di lapangan ada untuk topik ini saat ini, dan beberapa penyedia yang kami wawancarai menyebut perlunya studi berskala lebih besar untuk membangun jenis bukti yang bisa mereka gunakan untuk menyusun landasan di internal guna mendukung desain semacam ini. Kami mengatasi tantangan ini dengan menghasilkan riset yang berdampak dan uji lapangan yang nyata di lapangan yang menunjukkan bagaimana AI generatif dapat mendukung kesejahteraan finansial rumah tangga yang hidup di LMI serta membuat landasan bisnis untuk perancangan yang lebih aktif bagi segmen konsumen yang kurang terlayani ini.

Menatap masa depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada aplikasi skala dari wawasan ini oleh para pelaku besar di layanan keuangan. Bagi kami, membawa desain inklusif ke skala akan bergantung pada pemanfaatan riset kami untuk bermitra dengan organisasi yang lebih besar yang ingin memanfaatkan kemajuan dalam AI untuk mendukung kesehatan finansial pelanggan dan pekerja mereka.

12.  Nasihat apa yang akan Anda berikan kepada institusi keuangan yang ingin memanfaatkan AI sambil tetap menjaga kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga LMI lebih tertarik untuk berbank secara langsung dengan seseorang, namun mereka memiliki akses paling sedikit ke cabang tatap muka. Kesenjangan ini menyoroti peluang utama bagi AI untuk memberikan dukungan yang dipersonalisasi yang dicari rumah tangga yang hidup di LMI tanpa perlu menambah jumlah cabang atau staf dukungan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, institusi keuangan harus memperoleh dan membangun lebih banyak kepercayaan pada chatbot dari orang-orang yang berpenghasilan LMI — sebagian terkait secara spesifik dengan pengalaman chatbot, sementara sebagian lagi bersifat industri secara keseluruhan saat teknologi AI semakin diterima dan meningkatkan keamanan serta kualitas secara keseluruhan.

Kekhawatiran utama bagi orang-orang yang berinteraksi dengan chatbot adalah keamanan dan privasi.  Secara umum, orang-orang telah menyatakan kurangnya kepercayaan bahwa AI percakapan akan bermanfaat, melindungi data mereka, atau bertindak demi kepentingan terbaik mereka. Sementara banyak orang di dunia bisnis antusias tentang potensi AI, orang-orang yang hidup di LMI kemungkinan melihatnya dengan skeptisisme yang lebih besar sebagai teknologi baru yang belum menunjukkan nilai langsung bagi mereka.

Kebijakan data yang transparan, identitas dan pesan yang menenangkan, serta menjaga hubungan dengan agen manusia sebagai opsi cadangan akan membantu dalam membangun dan memperoleh kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui sekadar memberikan informasi dasar yang ditawarkan chatbot saat ini, seperti saldo akun dan transaksi terbaru, juga akan membantu menunjukkan nilai teknologi tersebut.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh (earned trust). Tujuannya bukan semata-mata meyakinkan orang untuk mempercayai chatbot, tetapi benar-benar merancang chatbot sedemikian rupa sehingga kepercayaan tersebut memang layak.