AI, Kepercayaan, dan Mereka yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

AI keuangan masih memiliki perjalanan panjang — tidak hanya dari segi kecepatan, akurasi, atau bahkan regulasi, tetapi juga dalam hal membangun kepercayaan. Terutama dari mereka yang secara tradisional bukan yang pertama kali mencoba teknologi baru saat dirilis.

Di FinTech Weekly, kami mengikuti pekerjaan Commonwealth, sebuah organisasi nirlaba yang fokus membangun keamanan keuangan bagi rumah tangga berpenghasilan rendah dan menengah (LMI). Penelitian lapangan mereka, yang dibahas dalam editorial terbaru kami, mengungkapkan ketegangan yang jelas: meskipun pengguna LMI terbuka terhadap alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan sekadar fitur yang dikemas ulang untuk orang lain.

Minggu ini, kami menyelami lebih dalam.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang benar-benar dibutuhkan agar AI efektif — dan aman — bagi komunitas yang kurang terlayani. Dari prinsip desain hingga membangun kepercayaan, dari co-pilot hingga kelelahan chatbot, dia berbagi mengapa niat lebih penting daripada inovasi semata.

Ini adalah pandangan yang realistis dan penuh pemikiran tentang seperti apa teknologi keuangan inklusif — dan seharusnya — terlihat.

Baca wawancara lengkapnya di bawah.

2.  Kolaborasi Commonwealth baru-baru ini dengan JPMorganChase memberikan wawasan penting tentang peran AI dalam meningkatkan keamanan keuangan bagi rumah tangga LMI. Apa temuan paling mengejutkan atau berdampak dari penelitian ini?

Penelitian kami menunjukkan potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas berpenghasilan rendah — jika chatbot dirancang dengan cermat dengan memperhatikan kebutuhan dan perspektif kelompok ini.

Dua temuan utama:

*   Pelanggan umumnya melihat chatbot sebagai alat positif untuk meningkatkan kesejahteraan keuangan mereka. Data kami menunjukkan bahwa 57% responden mengatakan penggunaan chatbot meningkatkan situasi keuangan mereka. Penelitian juga menunjukkan bahwa orang berpenghasilan rendah hingga menengah (LMI) menginginkan fitur pembangunan kredit, penganggaran, dan pengelolaan utang.

*   Responden menghargai ruang tanpa penilaian untuk bertanya tentang masalah keuangan sensitif kepada chatbot tanpa khawatir tentang rasa malu atau rasa tidak percaya diri yang mungkin muncul jika percakapan yang sama dilakukan secara langsung dengan perwakilan manusia.

3.  Bagaimana Anda melihat evolusi AI percakapan di bidang layanan keuangan, khususnya untuk komunitas yang kurang terlayani?

Idealnya, generasi berikutnya dari chatbot yang didukung oleh AI generatif akan menjadi asisten keuangan AI yang lebih baik dalam mendukung aktivitas keuangan rumah tangga ini, dan membangun kepercayaan dengan populasi yang seringkali waspada terhadap keterlibatan dengan sistem keuangan dan berbagi data secara online. Ada peluang besar bagi penyedia layanan keuangan untuk menyediakan kemampuan yang lebih kompleks, bernuansa, dan berorientasi tindakan untuk chatbot mereka.

Saat pelanggan menggunakan chatbot keuangan saat ini, mereka terutama mencari informasi akun atau mencoba menyelesaikan masalah. Kurang dari 20% responden survei nasional kami pernah menggunakan chatbot untuk nasihat dan edukasi keuangan, rekomendasi produk, pengajuan kredit atau pinjaman, serta pembukaan atau penutupan rekening. Namun, penelitian kami menunjukkan ada permintaan untuk chatbot yang dapat membantu dengan tindakan perbankan tersebut. Fokus pada fitur-fitur ini saat mengembangkan chatbot dapat meningkatkan penggunaannya dan manfaatnya bagi pelanggan ini.

Bagi bank dan lembaga keuangan yang belum siap meluncurkan co-pilot keuangan berbasis AI generatif langsung ke konsumen, teknologi ini dapat mendukung karyawan bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, akurat, dan tepat waktu selama interaksi.

4.  Apa tantangan terbesar dalam memastikan alat keuangan berbasis AI adil dan efektif untuk rumah tangga yang dipimpin oleh orang kulit hitam, Latinx, dan perempuan?

Dengan semua teknologi baru, diperlukan upaya yang disengaja untuk memastikan bahwa kebutuhan mereka yang berpenghasilan rendah hingga menengah termasuk dalam proses pengembangan dan pengambilan keputusan desain. Kami menemukan bahwa kemitraan swasta/filantropi dengan lembaga keuangan sejak awal membantu membangun momentum untuk upaya ini. Dengan memperkuat basis bukti, kami juga membantu membangun argumen bisnis.

Kami melihat potensi besar dalam panduan desain terkait peningkatan kepercayaan yang diperoleh, yang dapat memungkinkan AI percakapan mendukung kesehatan keuangan tanpa biaya besar.

5.  Berdasarkan penelitian Anda, apa prinsip desain utama yang harus dipertimbangkan penyedia layanan keuangan saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah membuat sumber daya, Panduan AI Keuangan untuk Kebaikan, untuk memberikan panduan desain yang dapat ditindaklanjuti kepada penyedia layanan keuangan yang melayani populasi LMI. Kami mengembangkan rekomendasi ini berdasarkan penelitian komprehensif dengan lembaga keuangan, penyedia chatbot, dan orang yang hidup dengan LMI.

Panduan ini diorganisasi berdasarkan empat tujuan utama desain. Berikut beberapa contohnya:

2.  Bangun kepercayaan: Kekhawatiran utama dari mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah lembaga keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang diambil bank serta memberi pengguna kendali atas data apa yang disimpan.
4.  Dorong keterlibatan: Ciptakan pengalaman di mana pengguna tahu apa yang dapat dilakukan alat ini dan kapan, dengan membuat kejelasan tentang fungsi mereka. Juga, kejar “proaktivitas cerdas.” Misalnya, integrasikan chatbot yang muncul saat paling dibutuhkan, tanpa terlalu memaksa atau agresif, yang bisa terkesan spam.
6.  Tingkatkan nilai: Antisipasi kebutuhan pelanggan Anda. Akses terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan kecil yang biasanya harus dilakukan di bank. Seimbangkan otomatisasi dan kendali dengan memungkinkan pengguna mengaktifkan dan menonaktifkan fitur keuangan otomatis, serta menyertakan fitur “jaring pengaman” yang menghentikan otomatisasi transfer uang jika saldo turun di bawah batas tertentu.
8.  Tingkatkan aksesibilitas: Tawarkan dukungan multibahasa dan panduan yang sesuai dengan basis pelanggan Anda, serta fokus pada fitur yang ramah mobile. Penelitian kami menunjukkan bahwa lebih dari setengah responden lebih suka mengakses layanan perbankan melalui ponsel mereka.

6.  Bisakah Anda berbagi kisah sukses atau studi kasus di mana AI percakapan secara signifikan meningkatkan kesejahteraan keuangan bagi individu LMI?

Yang kami ketahui adalah 57% pengguna dalam studi uji lapangan kami menyatakan bahwa penggunaan chatbot keuangan berdampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih dalam tahap awal, dan penelitian kami yang berkelanjutan akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan keuangan bagi individu LMI.

7.  Risiko atau konsekuensi tak terduga apa yang harus diperhatikan lembaga keuangan saat menerapkan alat keuangan berbasis AI?

Yang penting adalah agar mereka yang berpenghasilan LMI tidak tertinggal. Saat mengembangkan alat, penting untuk memahami peluang dan cara melayani basis pelanggan LMI secara inherent.

Ada banyak badan yang fokus secara khusus pada risiko dan konsekuensi alami dari alat berbasis AI, serta bias dan akurasi model bahasa besar. Selain itu, kita harus memastikan bahwa rekomendasi keuangan relevan dengan situasi keuangan individu pengguna. Lembaga keuangan dapat meningkatkan keterlibatan pelanggan dan membangun kepercayaan mereka dengan memastikan informasi yang diberikan akurat dan transparan.

AI menawarkan peluang luar biasa bagi orang berpenghasilan LMI untuk mengakses nasihat dan alat yang sebelumnya tidak tersedia, baik itu alat investasi maupun pengelolaan keuangan pribadi. Alat ini dapat dipersonalisasi dan disesuaikan dengan situasi unik mereka, membuka peluang besar bagi penyedia keuangan untuk memperluas basis pelanggan mereka.

8.  Bagaimana lembaga keuangan dapat mengukur dampak nyata dari alat berbasis AI terhadap keamanan dan kesejahteraan keuangan pengguna?

Fundamental kesejahteraan keuangan meliputi: apakah ada peningkatan tabungan, pengurangan utang, peningkatan skor kredit saat menggunakan alat ini?

Kami juga dapat melakukan survei pengalaman interaksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada minat yang meningkat terhadap produk yang dapat membantu meningkatkan kesejahteraan keuangan? Setelah menerima nasihat, apakah ada tindakan yang diambil?

Bank juga dapat melakukan pengujian A/B di antara berbagai kelompok konsumen yang berinteraksi dengan chatbot versus yang tidak, untuk melihat apakah ada perbedaan yang terukur.

9.  Peran pengawasan manusia dalam penerapan alat keuangan berbasis AI apa, dan bagaimana penyedia dapat menemukan keseimbangan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara meningkatkan kepercayaan terhadap AI adalah memastikan ada manusia yang dapat diakses pada waktu yang tepat selama interaksi. Di sinilah penggunaan co-pilot oleh karyawan bank yang berhadapan langsung dengan pelanggan bisa sangat membantu. Akses ke manusia secara langsung saat diperlukan meningkatkan kepercayaan dan pengalaman dengan alat AI.

Menggunakan AI percakapan memungkinkan perwakilan layanan pelanggan untuk melayani kebutuhan kompleks pelanggan mereka dengan lebih baik dan cepat, sambil tetap memberikan sentuhan manusia di titik-titik penting dalam interaksi saat agen langsung diinginkan.

Transparansi juga sangat penting untuk membangun kepercayaan dalam setiap interaksi. Anda harus tahu, misalnya, apakah Anda berbicara dengan chatbot atau orang nyata.

10.  Melihat ke depan, peluang paling menarik apa yang dimiliki AI dalam inklusi keuangan selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan AI percakapan yang menawarkan keterlibatan yang dipersonalisasi dan kontekstual, jauh lebih mendekati dukungan manusia dibandingkan struktur pohon keputusan dari kebanyakan chatbot keuangan saat ini. Aplikasi awal AI generatif di bidang keuangan sebagian besar difokuskan pada aplikasi back-office, di mana ada peluang mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi secara skala dalam konteks keuangan adalah peluang utama untuk mendorong pengembangan di sektor ini.

Membangun kepercayaan yang diperoleh akan sangat penting untuk adopsi yang lebih luas dari AI generatif, yang dalam uji lapangan dan diskusi kelompok fokus kami masih lebih skeptis dibandingkan chatbot tradisional. Namun, potensi manfaat dari menyediakan tingkat dukungan yang lebih canggih di berbagai aplikasi layanan keuangan menjadikan AI generatif teknologi yang paling menarik untuk diikuti di sektor keuangan. Mereka yang mampu mengembangkan dukungan AI generatif yang terpercaya dan andal akan berada di garis depan era baru membangun hubungan pelanggan secara besar-besaran.

Beberapa peluang spesifik lainnya yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan keuangan komprehensif yang disesuaikan dengan kebutuhan individu, seperti pelatih keuangan pribadi. Kami juga mengantisipasi kemajuan dalam AI percakapan yang dapat berperan penting dalam meningkatkan kesehatan keuangan pekerja melalui penyediaan informasi dan panduan untuk menavigasi sistem manfaat karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth dalam membentuk penggunaan AI yang bertanggung jawab di layanan keuangan?

Secara historis, desain teknologi baru lebih berfokus pada adopsi oleh konsumen berpenghasilan tinggi, sementara kebutuhan rumah tangga berpenghasilan rendah dan menengah sering diabaikan. Melalui inisiatif Emerging Tech for All (ETA), kami berfokus memastikan bahwa kebutuhan orang yang rentan secara finansial dipahami, terlihat, diperkenalkan dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada di titik kritis dalam memperluas penggunaan AI, dan kami percaya sangat penting untuk terus meneliti dan mengidentifikasi cara AI dapat memberikan dampak positif bagi populasi ini.

Saat ini, sedikit penelitian dan adopsi di lapangan terkait topik ini, dan beberapa penyedia yang kami wawancarai menyebutkan perlunya studi berskala besar untuk membangun bukti yang dapat mereka gunakan untuk memperkuat argumen internal tentang desain ini. Kami berupaya mengatasi tantangan ini dengan menghasilkan penelitian yang berdampak dan uji lapangan yang menunjukkan bagaimana AI generatif dapat mendukung kesejahteraan keuangan rumah tangga berpenghasilan rendah dan menengah, serta memperkuat argumen bisnis untuk merancang lebih aktif untuk segmen konsumen yang kurang terlayani ini.

Ke depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada skala penerapan wawasan ini oleh aktor utama di layanan keuangan. Bagi kami, membawa desain inklusif ke skala besar akan bergantung pada pemanfaatan penelitian kami untuk bermitra dengan organisasi besar yang ingin memanfaatkan kemajuan AI demi mendukung kesehatan keuangan pelanggan dan pekerja mereka.

12.  Apa saran yang akan Anda berikan kepada lembaga keuangan yang ingin memanfaatkan AI sambil menjaga kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga berpenghasilan rendah dan menengah lebih tertarik bertransaksi langsung dengan orang, tetapi memiliki akses paling sedikit ke cabang fisik. Celah ini menyoroti peluang utama bagi AI untuk menyediakan dukungan yang dipersonalisasi sesuai kebutuhan rumah tangga berpenghasilan rendah tanpa perlu menambah jumlah cabang atau staf layanan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, lembaga keuangan harus membangun dan meningkatkan kepercayaan terhadap chatbot dari orang berpenghasilan rendah dan menengah — sebagian ini terkait pengalaman chatbot, sementara sebagian lagi bersifat industri secara umum seiring AI mendapatkan penerimaan dan peningkatan keamanan serta kualitas secara keseluruhan.

Kekhawatiran utama orang saat berinteraksi dengan chatbot adalah keamanan dan privasi. Secara umum, orang menyatakan kurang percaya bahwa AI percakapan dapat membantu, melindungi data mereka, atau bertindak demi kepentingan terbaik mereka. Meskipun banyak pelaku industri antusias dengan potensi AI, orang yang berpenghasilan rendah dan menengah cenderung melihatnya dengan skeptis sebagai teknologi baru yang belum menunjukkan nilai langsung bagi mereka.

Kebijakan data yang transparan, branding dan pesan yang menenangkan, serta menjaga koneksi dengan agen manusia sebagai cadangan akan membantu membangun dan mendapatkan kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui sekadar menyediakan informasi dasar seperti saldo rekening dan transaksi terbaru juga akan membantu menunjukkan nilai teknologi ini.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh. Tujuannya bukan sekadar meyakinkan orang untuk percaya pada chatbot, tetapi merancang chatbot sedemikian rupa sehingga kepercayaan tersebut memang layak diberikan.