AI, Kepercayaan, dan yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech terbaru!

Berlangganan buletin FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

AI finansial masih memiliki jalan panjang — tidak hanya dalam hal kecepatan, akurasi, atau bahkan regulasi, tetapi dalam cara ia membangun kepercayaan. Terutama dari mereka yang secara tradisional bukan yang pertama dalam antrean saat teknologi baru diluncurkan.

Di FinTech Weekly, kami telah mengikuti pekerjaan Commonwealth, sebuah organisasi nirlaba yang berfokus pada membangun keamanan finansial untuk rumah tangga berpendapatan rendah dan menengah (LMI). Penelitian lapangan mereka, yang dieksplorasi dalam editorial terbaru kami, mengungkapkan ketegangan yang jelas: sementara pengguna LMI terbuka terhadap alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan hanya fitur yang dikemas ulang yang dibuat untuk orang lain.

Minggu ini, kami melangkah lebih dalam.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang sebenarnya diperlukan untuk membuat AI efektif — dan aman — bagi masyarakat yang kurang terlayani. Mulai dari prinsip desain hingga kepercayaan yang diperoleh, dari co-pilot hingga kelelahan chatbot, ia berbagi mengapa niat lebih penting daripada inovasi saja.

Ini adalah pandangan yang mendasar dan bijaksana tentang seperti apa teknologi finansial yang inklusif — dan seharusnya —.

Baca wawancara lengkapnya di bawah ini.

2.  Kolaborasi terbaru Commonwealth dengan JPMorganChase memberikan wawasan kunci tentang peran AI dalam meningkatkan keamanan finansial untuk rumah tangga LMI. Apa temuan yang paling mengejutkan atau berdampak dari penelitian ini?

Penelitian kami menyoroti potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas yang hidup dengan pendapatan rendah — jika chatbot tersebut dirancang dengan cermat dengan mempertimbangkan kebutuhan dan perspektif kelompok ini.

Dua temuan utama:

*   Pelanggan sebagian besar memandang chatbot sebagai alat positif untuk meningkatkan kesejahteraan finansial mereka. Data kami menunjukkan bahwa 57% responden mengatakan menggunakan chatbot meningkatkan situasi keuangan mereka. Penelitian juga menunjukkan bahwa orang dengan pendapatan rendah hingga menengah (LMI) menginginkan fitur pembangunan kredit, penganggaran, dan manajemen utang.

*   Responden menghargai ruang bebas penilaian dengan chatbot untuk mengajukan pertanyaan finansial sensitif tanpa khawatir akan rasa malu atau kesadaran diri yang mungkin menyertai percakapan yang sama secara tatap muka dengan perwakilan manusia.

3.  Bagaimana Anda melihat percakapan AI berkembang di ruang layanan finansial, khususnya untuk komunitas yang kurang terlayani?

Idealnya, generasi chatbot berikutnya yang didukung oleh AI generatif akan menjadi asisten finansial AI yang lebih baik mendukung aktivitas finansial rumah tangga ini, dan mendapatkan kepercayaan dari populasi yang sering waspada terhadap keterlibatan dengan sistem finansial dan berbagi data secara online. Ada peluang besar bagi penyedia layanan finansial untuk menyediakan kemampuan yang lebih kompleks, bernuansa, dan berorientasi pada tindakan untuk chatbot mereka.

Ketika pelanggan menggunakan chatbot finansial sekarang, mereka terutama mencari informasi akun atau mencoba menyelesaikan masalah. Kurang dari 20% responden survei nasional kami pernah menggunakan chatbot untuk nasihat dan pendidikan finansial, rekomendasi produk, mengajukan kredit atau pinjaman, dan membuka atau menutup akun. Namun, penelitian kami menemukan bahwa ada permintaan untuk chatbot yang dapat membantu jenis tindakan perbankan ini. Berfokus pada jenis fitur ini saat mengembangkan chatbot dapat meningkatkan penggunaan dan kegunaannya di antara pelanggan ini.

Untuk bank dan lembaga keuangan yang belum siap meluncurkan co-pilot finansial AI generatif langsung ke konsumen, teknologi ini dapat mendukung karyawan bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, lebih akurat, dan lebih tepat waktu kepada pelanggan selama interaksi.

4.  Apa saja tantangan terbesar dalam memastikan alat finansial yang didorong AI bersifat adil dan efektif untuk rumah tangga yang dipimpin oleh orang kulit hitam, Latinx, dan perempuan?

Dengan semua teknologi yang muncul, perlu ada upaya yang disengaja untuk memastikan bahwa kebutuhan mereka yang berpendapatan rendah hingga menengah disertakan dalam proses pengembangan dan keputusan desain. Kami telah menemukan bahwa kemitraan swasta/filantropi dengan lembaga keuangan sejak awal membantu membangun momentum untuk upaya ini. Dengan mengembangkan basis bukti, kami juga membantu membangun kasus bisnis.

Kami telah melihat potensi signifikan untuk panduan desain seputar hal-hal seperti meningkatkan kepercayaan yang diperoleh yang dapat memungkinkan AI percakapan untuk mendukung kesehatan finansial tanpa peningkatan biaya yang besar.

5.  Berdasarkan penelitian Anda, apa prinsip desain kunci yang harus dipertimbangkan oleh penyedia layanan finansial saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah menciptakan sumber daya, Panduan AI Finansial untuk Kebaikan, untuk memberikan panduan desain yang dapat ditindaklanjuti kepada penyedia layanan finansial yang melayani populasi LMI. Kami mengembangkan rekomendasi ini berdasarkan penelitian komprehensif dengan lembaga keuangan, penyedia chatbot, dan orang-orang yang hidup dengan LMI.

Panduan ini diatur di sekitar empat tujuan desain utama. Saya akan memberikan satu atau dua contoh untuk masing-masing:

2.  Mendapatkan kepercayaan: Kekhawatiran utama di antara mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah lembaga keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang diambil bank serta memberi pengguna kendali atas data apa yang disimpan.
4.  Mendorong keterlibatan: Buat pengalaman di mana pengguna tahu apa yang dapat dilakukan alat ini untuk mereka dan kapan dengan menciptakan kejelasan seputar fungsinya. Juga, kejar "proaktifitas cerdas." Misalnya, integrasikan chatbot yang muncul saat paling berguna, tanpa terlalu memaksa atau agresif, yang bisa terlihat seperti spam.
6.  Meningkatkan nilai: Antisipasi kebutuhan pelanggan Anda. Akses terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan kecil yang mungkin harus dilakukan pelanggan ke bank. Seimbangkan otomatisasi dan kendali dengan mengizinkan pengguna menyalakan dan mematikan fitur keuangan otomatis, dan sertakan fitur "jaring pengaman" yang menjeda pergerakan uang otomatis jika saldo turun di bawah ambang tertentu.
8.  Meningkatkan aksesibilitas: Tawarkan dukungan multibahasa dan panduan yang disesuaikan dengan basis pelanggan Anda dan fokus pada fitur ramah seluler. Penelitian kami menunjukkan bahwa lebih dari setengah responden lebih suka mengakses perbankan mereka melalui ponsel mereka.

6.  Dapatkah Anda berbagi kisah sukses atau studi kasus di mana AI percakapan telah secara signifikan meningkatkan kesejahteraan finansial untuk individu LMI?

Yang kami tahu adalah bahwa 57% pengguna dalam studi uji lapangan kami menunjukkan bahwa menggunakan chatbot finansial memiliki dampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih dalam tahap awal, dan penelitian kami yang sedang berlangsung akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan finansial untuk individu LMI.

7.  Risiko atau konsekuensi tidak terduga apa yang harus diperhatikan oleh lembaga keuangan saat menerapkan alat finansial yang didorong AI?

Yang penting adalah bahwa orang yang berpenghasilan LMI tidak ditinggalkan dari persamaan. Ketika lembaga keuangan mengembangkan alat, penting bahwa mereka memahami peluang yang melekat dan cara melayani basis pelanggan LMI.

Ada banyak badan yang berfokus secara khusus pada risiko dan konsekuensi yang melekat dari alat yang didorong AI, serta bias dan akurasi model bahasa besar. Selain itu, kami ingin memastikan bahwa perhatian utama ditangani: relevansi rekomendasi finansial untuk situasi finansial individu pengguna. Lembaga keuangan dapat meningkatkan keterlibatan pelanggan dan mendapatkan kepercayaan pelanggan mereka dengan memastikan bahwa informasi yang mereka berikan akurat dan ada transparansi nyata.

AI menyajikan peluang yang belum pernah ada sebelumnya bagi orang yang berpenghasilan LMI untuk mengakses nasihat dan alat yang secara tradisional tidak tersedia bagi mereka, baik itu alat investasi atau manajemen keuangan pribadi. Alat-alat ini dapat dipersonalisasi dan disesuaikan untuk orang yang berpenghasilan LMI dan situasi unik mereka. Ini adalah peluang luar biasa bagi penyedia finansial untuk mengembangkan basis pelanggan mereka.

8.  Bagaimana lembaga keuangan dapat mengukur dampak nyata dari alat yang didorong AI terhadap keamanan dan kesejahteraan finansial pengguna?

Dasar-dasar kesehatan finansial: Apakah ada peningkatan dalam tabungan, pengurangan utang, perbaikan skor kredit saat menggunakan alat ini?

Kami juga dapat mensurvei pengalaman seputar interaksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada peningkatan minat pada produk yang akan membantu meningkatkan kesejahteraan finansial? Dalam hal penasehatan, apakah ada tindakan yang diambil setelah menerima nasihat?

Bank juga dapat melakukan pengujian A/B di antara kelompok konsumen yang berbeda yang berinteraksi dengan chatbot vs. yang tidak untuk melihat apakah ada perbedaan yang terukur di antara mereka.

9.  Apa peran pengawasan manusia dalam penerapan alat AI untuk layanan finansial, dan bagaimana penyedia dapat mencapai keseimbangan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara untuk meningkatkan kepercayaan yang diperoleh seputar AI adalah memastikan bahwa ada manusia yang dapat diakses pada waktu yang tepat di sekitar interaksi. Di sinilah penggunaan co-pilot oleh karyawan bank yang berhadapan dengan pelanggan dapat bermanfaat. Akses ke manusia langsung saat dibutuhkan meningkatkan kepercayaan dan pengalaman dengan alat AI.

Menggunakan AI percakapan akan memungkinkan perwakilan layanan pelanggan untuk melayani kebutuhan kompleks pelanggan dan anggota mereka dengan lebih baik dan lebih cepat sambil memberikan sentuhan manusia pada titik-titik kunci dalam interaksi ketika agen langsung diinginkan.

Transparansi juga penting untuk membangun kepercayaan dalam interaksi apa pun. Anda harus tahu, misalnya, apakah Anda berbicara dengan chatbot atau dengan orang sungguhan.

10.  Ke depan, apa peluang paling menarik untuk AI dalam inklusi finansial selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan AI percakapan yang menawarkan keterlibatan yang dipersonalisasi dan peka konteks pada tingkat yang jauh lebih mendekati dukungan manusia daripada struktur pohon keputusan dari sebagian besar chatbot finansial saat ini. Aplikasi awal AI generatif di bidang keuangan telah berfokus terutama pada aplikasi back-office, di mana ada peluang untuk mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi dalam skala besar dalam konteks finansial adalah peluang utama untuk mendorong pengembangan di sektor ini.

Pembangunan kepercayaan yang diperoleh akan menjadi sangat penting untuk adopsi yang lebih luas dari AI generatif, yang partisipan dalam uji lapangan dan kelompok fokus kami masih lebih skeptis daripada chatbot tradisional. Namun, potensi manfaat dari menyediakan tingkat dukungan yang lebih maju di berbagai aplikasi layanan finansial menjadikan AI generatif sebagai teknologi yang paling menarik untuk diamati di sektor finansial. Mereka yang dapat mengembangkan dukungan AI generatif yang tepercaya dan andal akan berada di perbatasan era baru pembangunan hubungan pelanggan dalam skala besar.

Beberapa peluang spesifik lainnya yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan finansial komprehensif yang disesuaikan dengan kebutuhan individu, semacam pelatih keuangan pribadi. Kami juga mengharapkan kemajuan dalam AI percakapan memainkan peran berharga dalam mempromosikan kesehatan finansial pekerja dengan menyediakan informasi dan panduan untuk menavigasi sistem tunjangan karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth berkembang dalam membentuk penggunaan AI yang bertanggung jawab di layanan finansial?

Secara historis, desain teknologi baru berfokus pada adopsi oleh konsumen berpenghasilan tinggi sementara mengabaikan kebutuhan rumah tangga LMI. Melalui inisiatif Teknologi Baru untuk Semua (ETA) kami, kami fokus untuk memastikan bahwa kebutuhan orang-orang yang rentan secara finansial dipahami, terlihat, diperkenalkan ke dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada pada titik infleksi kritis dalam penskalaan AI, dan percaya bahwa mendesak untuk terus meneliti dan mengidentifikasi cara-cara di mana AI dapat berdampak positif pada populasi ini.

Relatif sedikit penelitian dan adopsi di lapangan yang ada tentang topik ini saat ini, dan beberapa penyedia yang kami wawancarai menyebutkan kebutuhan untuk studi skala besar untuk membangun jenis bukti yang dapat mereka gunakan untuk membuat kasus untuk jenis desain ini secara internal. Kami menjawab tantangan ini dengan memproduksi penelitian berdampak dan uji lapangan langsung yang menunjukkan bagaimana AI generatif dapat mendukung kesehatan finansial rumah tangga yang hidup dengan LMI dan membuat kasus bisnis untuk lebih aktif merancang untuk segmen konsumen yang kurang terlayani ini.

Melihat ke masa depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada aplikasi skala dari wawasan ini oleh aktor utama di layanan finansial. Bagi kami, memindahkan desain inklusif ke skala akan bergantung pada memanfaatkan penelitian kami untuk bermitra dengan organisasi yang lebih besar yang mencari untuk memanfaatkan kemajuan dalam AI untuk mendukung kesehatan finansial pelanggan dan pekerja mereka.

12.  Nasihat apa yang akan Anda berikan kepada lembaga keuangan yang ingin memanfaatkan AI sambil mempertahankan kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga LMI lebih tertarik untuk melakukan perbankan langsung dengan seseorang namun memiliki akses paling sedikit ke cabang tatap muka. Kesenjangan ini menyoroti peluang utama bagi AI untuk menyediakan jenis dukungan yang dipersonalisasi yang dicari oleh rumah tangga yang hidup dengan LMI tanpa perlu menambah jumlah cabang atau staf dukungan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, lembaga keuangan harus mendapatkan dan membangun lebih banyak kepercayaan pada chatbot dari orang yang berpenghasilan LMI — beberapa di antaranya spesifik untuk pengalaman chatbot, sementara yang lain bersifat luas di industri seiring teknologi AI mendapatkan lebih banyak penerimaan dan meningkatkan keamanan dan kualitas secara keseluruhan.

Kekhawatiran utama bagi orang yang terlibat dengan chatbot adalah keamanan dan privasi. Secara umum, orang telah menyatakan kurangnya kepercayaan pada AI percakapan untuk menjadi membantu, melindungi data mereka, atau bertindak untuk kepentingan terbaik mereka. Sementara banyak di dunia bisnis yang bersemangat tentang potensi AI, orang yang hidup dengan LMI kemungkinan memandangnya dengan skeptisisme yang lebih besar sebagai teknologi baru yang belum menunjukkan nilai langsungnya kepada mereka.

Kebijakan data yang transparan, merek dan pesan yang meyakinkan, dan mempertahankan koneksi ke agen manusia sebagai opsi cadangan semuanya akan membantu membangun dan mendapatkan kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui penyediaan informasi dasar yang ditawarkan oleh chatbot saat ini, seperti saldo akun dan transaksi terkini, juga akan membantu menunjukkan nilai teknologi ini.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh. Tujuannya bukan hanya untuk meyakinkan orang untuk mempercayai chatbot, tetapi untuk benar-benar merancang chatbot sedemikian rupa sehingga kepercayaan ini layak diberikan.