AI, Kepercayaan, dan Mereka yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

AI keuangan masih memiliki perjalanan panjang — tidak hanya dari segi kecepatan, akurasi, atau bahkan regulasi, tetapi juga dalam hal membangun kepercayaan. Terutama dari mereka yang secara tradisional bukan yang pertama kali mencoba teknologi baru saat dirilis.

Di FinTech Weekly, kami mengikuti karya Commonwealth, sebuah organisasi nirlaba yang fokus membangun keamanan keuangan bagi rumah tangga berpenghasilan rendah dan menengah (LMI). Penelitian lapangan mereka, yang dibahas dalam editorial terbaru kami, mengungkapkan ketegangan yang jelas: meskipun pengguna LMI terbuka terhadap alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan sekadar fitur yang dikemas ulang untuk orang lain.

Minggu ini, kami menyelami lebih dalam.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang benar-benar dibutuhkan agar AI efektif — dan aman — bagi komunitas yang kurang terlayani. Dari prinsip desain hingga membangun kepercayaan, dari co-pilot hingga kelelahan chatbot, dia berbagi mengapa niat lebih penting daripada inovasi semata.

Ini adalah pandangan yang realistis dan penuh pemikiran tentang seperti apa teknologi keuangan inklusif — dan seharusnya — terlihat.

Baca wawancara lengkapnya di bawah.

2.  Kolaborasi Commonwealth terbaru dengan JPMorganChase memberikan wawasan utama tentang peran AI dalam meningkatkan keamanan keuangan bagi rumah tangga LMI. Apa temuan paling mengejutkan atau berdampak dari penelitian ini?

Penelitian kami menunjukkan potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas berpenghasilan rendah — jika chatbot dirancang dengan cermat mempertimbangkan kebutuhan dan perspektif kelompok ini.

Dua temuan utama:

*   Pelanggan umumnya melihat chatbot sebagai alat positif untuk meningkatkan kesejahteraan keuangan mereka. Data kami menunjukkan bahwa 57% responden mengatakan penggunaan chatbot meningkatkan situasi keuangan mereka. Penelitian juga menunjukkan bahwa orang berpenghasilan rendah hingga menengah (LMI) menginginkan fitur pembangunan kredit, penganggaran, dan pengelolaan utang.

*   Responden menghargai ruang tanpa penilaian untuk bertanya tentang masalah keuangan sensitif kepada chatbot tanpa khawatir tentang rasa malu atau rasa tidak percaya diri yang mungkin muncul jika percakapan yang sama dilakukan secara langsung dengan perwakilan manusia.

3.  Bagaimana Anda melihat evolusi AI percakapan di bidang layanan keuangan, khususnya untuk komunitas yang kurang terlayani?

Idealnya, generasi berikutnya dari chatbot yang didukung oleh AI generatif akan menjadi asisten keuangan AI yang lebih baik dalam mendukung aktivitas keuangan rumah tangga ini, dan membangun kepercayaan dengan populasi yang seringkali waspada terhadap keterlibatan dengan sistem keuangan dan berbagi data secara online. Ada peluang besar bagi penyedia layanan keuangan untuk menyediakan kemampuan yang lebih kompleks, bernuansa, dan berorientasi tindakan untuk chatbot mereka.

Saat pelanggan menggunakan chatbot keuangan saat ini, mereka terutama mencari informasi akun atau mencoba menyelesaikan masalah. Kurang dari 20% responden survei nasional kami pernah menggunakan chatbot untuk nasihat dan edukasi keuangan, rekomendasi produk, pengajuan kredit atau pinjaman, serta pembukaan atau penutupan rekening. Namun, penelitian kami menunjukkan ada permintaan untuk chatbot yang dapat membantu dengan tindakan perbankan tersebut. Fokus pada fitur-fitur ini saat mengembangkan chatbot dapat meningkatkan penggunaannya dan manfaatnya bagi pelanggan ini.

Bagi bank dan lembaga keuangan yang belum siap meluncurkan co-pilot keuangan berbasis AI generatif langsung ke konsumen, teknologi ini dapat mendukung staf bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, akurat, dan tepat waktu selama interaksi.

4.  Apa tantangan terbesar dalam memastikan alat keuangan berbasis AI adil dan efektif untuk rumah tangga yang dipimpin oleh orang kulit hitam, Latinx, dan perempuan?

Dengan semua teknologi baru, diperlukan upaya yang disengaja untuk memastikan bahwa kebutuhan mereka yang berpenghasilan rendah hingga menengah termasuk dalam proses pengembangan dan pengambilan keputusan desain. Kami menemukan bahwa kemitraan swasta/filantropi dengan lembaga keuangan sejak awal membantu membangun momentum untuk upaya ini. Dengan memperkuat basis bukti, kami juga membantu membangun argumen bisnis.

Kami melihat potensi besar dalam panduan desain terkait peningkatan kepercayaan yang diperoleh, yang dapat memungkinkan AI percakapan mendukung kesehatan keuangan tanpa biaya besar.

5.  Berdasarkan penelitian Anda, apa prinsip desain utama yang harus dipertimbangkan penyedia layanan keuangan saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah membuat sumber daya, Panduan AI Keuangan untuk Kebaikan, untuk memberikan panduan desain yang dapat ditindaklanjuti kepada penyedia layanan keuangan yang melayani populasi LMI. Kami mengembangkan rekomendasi ini berdasarkan penelitian komprehensif dengan lembaga keuangan, penyedia chatbot, dan orang yang hidup dengan LMI.

Panduan ini diorganisasi berdasarkan empat tujuan desain utama. Berikut beberapa contohnya:

2.  Bangun kepercayaan: Kekhawatiran utama dari mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah lembaga keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang diambil bank serta memberi pengguna kendali atas data apa yang disimpan.
4.  Tingkatkan keterlibatan: Buat pengalaman yang membuat pengguna tahu apa yang dapat dilakukan alat ini dan kapan, dengan menciptakan kejelasan tentang fungsi mereka. Juga, kejar “proaktivitas cerdas.” Misalnya, integrasikan chatbot yang muncul saat paling dibutuhkan, tanpa terlalu memaksa atau agresif, yang bisa terkesan spam.
6.  Tingkatkan nilai: Antisipasi kebutuhan pelanggan Anda. Akses terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan kecil yang biasanya harus dilakukan di bank. Seimbangkan otomatisasi dan kendali dengan memungkinkan pengguna mengaktifkan dan menonaktifkan fitur keuangan otomatis, serta menyertakan fitur “jaring pengaman” yang menghentikan otomatisasi transfer uang jika saldo turun di bawah batas tertentu.
8.  Tingkatkan aksesibilitas: Tawarkan dukungan multibahasa dan panduan yang sesuai dengan basis pelanggan Anda, serta fokus pada fitur yang ramah mobile. Penelitian kami menunjukkan bahwa lebih dari setengah responden lebih suka mengakses layanan perbankan melalui ponsel mereka.

6.  Bisakah Anda berbagi kisah sukses atau studi kasus di mana AI percakapan secara signifikan meningkatkan kesejahteraan keuangan individu LMI?

Yang kami ketahui adalah 57% pengguna dalam studi uji lapangan kami menyatakan bahwa penggunaan chatbot keuangan berdampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih dalam tahap awal, dan penelitian berkelanjutan kami akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan keuangan bagi individu LMI.

7.  Risiko atau konsekuensi tak terduga apa yang harus diperhatikan lembaga keuangan saat menerapkan alat keuangan berbasis AI?

Yang penting adalah agar mereka yang berpenghasilan LMI tidak tertinggal. Saat mengembangkan alat, penting untuk memahami peluang dan cara melayani basis pelanggan LMI secara inherent.

Ada banyak badan yang fokus secara khusus pada risiko dan konsekuensi alami dari alat berbasis AI, serta bias dan akurasi model bahasa besar. Selain itu, kita harus memastikan bahwa rekomendasi keuangan relevan dengan situasi keuangan individu pengguna. Lembaga keuangan dapat meningkatkan keterlibatan pelanggan dan membangun kepercayaan mereka dengan memastikan informasi yang diberikan akurat dan transparan.

AI menawarkan peluang luar biasa bagi orang berpenghasilan LMI untuk mengakses nasihat dan alat yang sebelumnya tidak tersedia, baik itu alat investasi maupun pengelolaan keuangan pribadi. Alat ini dapat dipersonalisasi dan disesuaikan dengan situasi unik mereka. Ini adalah peluang besar bagi penyedia keuangan untuk memperluas basis pelanggan mereka.

8.  Bagaimana lembaga keuangan dapat mengukur dampak nyata alat berbasis AI terhadap keamanan dan kesejahteraan keuangan pengguna?

Fundamental kesejahteraan keuangan meliputi: apakah ada peningkatan tabungan, pengurangan utang, peningkatan skor kredit saat menggunakan alat ini?

Kami juga dapat melakukan survei pengalaman berinteraksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada minat yang meningkat terhadap produk yang dapat membantu meningkatkan kesejahteraan keuangan? Setelah menerima nasihat, apakah ada tindakan yang diambil?

Bank juga dapat melakukan pengujian A/B di antara kelompok konsumen yang berinteraksi dengan chatbot versus yang tidak, untuk melihat apakah ada perbedaan yang terukur.

9.  Peran pengawasan manusia dalam penerapan alat AI untuk layanan keuangan apa, dan bagaimana penyedia dapat menemukan keseimbangan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara meningkatkan kepercayaan terhadap AI adalah memastikan ada manusia yang dapat diakses pada waktu yang tepat selama interaksi. Di sinilah penggunaan co-pilot oleh karyawan bank yang berhadapan langsung dengan pelanggan bisa sangat membantu. Akses ke manusia langsung saat diperlukan meningkatkan kepercayaan dan pengalaman dengan alat AI.

Menggunakan AI percakapan memungkinkan perwakilan layanan pelanggan untuk melayani kebutuhan kompleks pelanggan mereka dengan lebih baik dan cepat, sambil tetap memberikan sentuhan manusia di titik-titik penting saat diinginkan.

Transparansi juga sangat penting untuk membangun kepercayaan dalam setiap interaksi. Misalnya, Anda harus tahu apakah Anda sedang berbicara dengan chatbot atau orang nyata.

10.  Melihat ke depan, peluang paling menarik apa yang dimiliki AI dalam inklusi keuangan selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan AI percakapan yang menawarkan keterlibatan yang dipersonalisasi dan kontekstual, jauh lebih mendekati dukungan manusia dibandingkan struktur pohon keputusan dari kebanyakan chatbot keuangan saat ini. Aplikasi awal AI generatif di bidang keuangan sebagian besar difokuskan pada aplikasi back-office, di mana ada peluang mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi secara skala dalam konteks keuangan adalah peluang utama untuk mendorong pengembangan di sektor ini.

Membangun kepercayaan yang diperoleh akan sangat penting untuk adopsi yang lebih luas dari AI generatif, yang dalam uji lapangan dan diskusi kelompok fokus kami masih lebih skeptis dibandingkan chatbot tradisional. Namun, manfaat potensial dari menyediakan tingkat dukungan yang lebih canggih di seluruh aplikasi layanan keuangan menjadikan AI generatif teknologi yang paling menarik untuk diamati di sektor keuangan. Mereka yang mampu mengembangkan dukungan AI generatif yang terpercaya dan andal akan berada di garis depan era baru membangun hubungan pelanggan secara besar-besaran.

Beberapa peluang spesifik lainnya yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan keuangan komprehensif yang disesuaikan dengan kebutuhan individu, seperti pelatih keuangan pribadi. Kami juga mengantisipasi kemajuan dalam AI percakapan yang akan berperan penting dalam mempromosikan kesehatan keuangan pekerja melalui penyediaan informasi dan panduan untuk menavigasi sistem manfaat karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth dalam membentuk penggunaan AI yang bertanggung jawab di layanan keuangan?

Secara historis, desain teknologi baru lebih berfokus pada adopsi oleh konsumen berpenghasilan tinggi, sementara mengabaikan kebutuhan rumah tangga berpenghasilan rendah dan menengah. Melalui inisiatif Emerging Tech for All (ETA), kami berfokus memastikan bahwa kebutuhan orang yang rentan secara finansial dipahami, terlihat, diperkenalkan dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada di titik balik penting dalam memperluas AI, dan kami percaya sangat mendesak untuk terus meneliti dan mengidentifikasi cara AI dapat memberikan dampak positif bagi populasi ini.

Saat ini, penelitian dan adopsi di lapangan tentang topik ini masih terbatas, dan beberapa penyedia yang kami wawancarai menyebutkan perlunya studi berskala lebih besar untuk membangun bukti yang dapat mereka gunakan untuk memperkuat argumen internal tentang desain semacam ini. Kami berupaya mengatasi tantangan ini dengan menghasilkan penelitian yang berdampak dan pengujian lapangan yang menunjukkan bagaimana AI generatif dapat mendukung kesejahteraan keuangan rumah tangga berpenghasilan rendah dan menengah, serta memperkuat argumen bisnis untuk merancang lebih aktif segmen konsumen yang kurang terlayani ini.

Melihat ke masa depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada penerapan skala dari wawasan ini oleh aktor utama di layanan keuangan. Bagi kami, memperluas desain inklusif akan bergantung pada pemanfaatan penelitian kami untuk bermitra dengan organisasi besar yang ingin memanfaatkan kemajuan AI demi mendukung kesehatan keuangan pelanggan dan pekerja mereka.

12.  Apa saran yang akan Anda berikan kepada lembaga keuangan yang ingin memanfaatkan AI sambil menjaga kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga berpenghasilan rendah dan menengah lebih tertarik bertransaksi langsung dengan orang, tetapi memiliki akses paling sedikit ke cabang fisik. Celah ini menyoroti peluang utama bagi AI untuk menyediakan dukungan yang dipersonalisasi sesuai kebutuhan rumah tangga berpenghasilan rendah tanpa perlu menambah cabang atau staf layanan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, lembaga keuangan harus membangun dan meningkatkan kepercayaan terhadap chatbot dari orang berpenghasilan rendah dan menengah — sebagian ini terkait pengalaman chatbot, sementara sebagian lagi karena AI semakin diterima secara industri dan meningkat dalam hal keamanan dan kualitas secara umum.

Kekhawatiran utama orang saat berinteraksi dengan chatbot adalah keamanan dan privasi. Secara umum, mereka kurang percaya bahwa AI percakapan dapat membantu, melindungi data mereka, atau bertindak demi kepentingan terbaik mereka. Meskipun banyak pelaku industri antusias dengan potensi AI, orang berpenghasilan rendah dan menengah cenderung melihatnya dengan skeptis sebagai teknologi baru yang belum menunjukkan nilai langsung bagi mereka.

Kebijakan data yang transparan, branding dan pesan yang menenangkan, serta menjaga koneksi dengan agen manusia sebagai cadangan akan membantu membangun dan mendapatkan kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui sekadar menyediakan informasi dasar seperti saldo rekening dan transaksi terbaru juga akan membantu menunjukkan nilai teknologi ini.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh. Tujuannya bukan sekadar meyakinkan orang untuk percaya pada chatbot, tetapi merancang chatbot sedemikian rupa sehingga kepercayaan tersebut memang layak diperoleh.