AI, довіра та недостатньо обслуговувані - Інтерв'ю з Паолою Грієко, старшим віце-президентом у Commonwealth

Paula Grieco є старшим віце-президентом у Commonwealth.

Відкрийте для себе найкращі новини та події у світі фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Фінансовий ШІ має пройти довгий шлях — не лише з точки зору швидкості, точності чи навіть регулювання, але й у тому, як він завойовує довіру. Особливо з боку тих, хто традиційно не був першим у черзі, коли з'являються нові технології.

У FinTech Weekly ми стежили за роботою Commonwealth, некомерційної організації, зосередженої на побудові фінансової безпеки для домогосподарств з низьким та помірним доходом (LMI). Їхні польові дослідження, вивчені в нашій нещодавній редакційній статті, виявили чітку напругу: хоча користувачі з LMI відкриті до таких інструментів, як чат-боти, вони все ще чекають на досвід, який дійсно їм служить — а не просто перепаковані функції, створені для когось іншого.

Цього тижня ми заглибилися.

Ми поговорили з Паулою Гріко, старшим віце-президентом Commonwealth, щоб зрозуміти, що насправді потрібно, щоб зробити ШІ ефективним — і безпечним — для малозабезпечених громад. Від принципів дизайну до заробленої довіри, від співпілотів до втоми від чат-ботів, вона ділиться тим, чому намір важливіший за саму інновацію.

Це обґрунтований і продуманий погляд на те, якою могла б — і мала б — бути інклюзивна фінансова технологія.

Читайте повне інтерв'ю нижче.

2.  Нещодавня співпраця Commonwealth з JPMorganChase дала ключові уявлення про роль ШІ в покращенні фінансової безпеки домогосподарств з LMI. Які були найбільш несподівані або впливові висновки цього дослідження?

Наше дослідження висвітлює величезний потенціал ШІ, зокрема чат-ботів, у наданні персоналізованих рекомендацій та підтримки громадам з низькими доходами — якщо чат-боти будуть ретельно спроектовані з урахуванням потреб та поглядів цієї групи.

Два ключові висновки:

*   Клієнти в основному розглядають чат-ботів як позитивні інструменти для покращення свого фінансового добробуту. Наші дані показали, що 57% респондентів сказали, що використання чат-ботів покращило їхнє фінансове становище. Дослідження також показало, що люди з низьким та помірним доходом (LMI) хочуть функції для створення кредитної історії, бюджетування та управління боргами.

*   Респонденти цінували простір без осуду під час спілкування з чат-ботом для постановки чутливих фінансових питань, не турбуючись про сором або незручність, які могли б супроводжувати таку ж розмову віч-на-віч з представником-людиною.

3.  Як ви бачите еволюцію розмовного ШІ у сфері фінансових послуг, особливо для малозабезпечених громад?

В ідеалі наступне покоління чат-ботів, що працюють на основі генеративного ШІ, стане фінансовими помічниками ШІ, які краще підтримуватимуть фінансову діяльність цих домогосподарств і завойовуватимуть довіру серед груп населення, які часто з обережністю ставляться до взаємодії з фінансовою системою та обміну даними онлайн. Існує велика можливість для постачальників фінансових послуг надавати більш складні, нюансовані та орієнтовані на дії можливості своїм чат-ботам.

Коли клієнти зараз користуються фінансовими чат-ботами, вони в першу чергу шукають інформацію про рахунок або намагаються вирішити проблему. Менше ніж 20% респондентів нашого загальнонаціонального опитування використовували чат-ботів для фінансових консультацій та навчання, рекомендацій продуктів, подання заявок на кредит або позики, а також відкриття та закриття рахунків. Однак наше дослідження показує, що існує попит на чат-ботів, які можуть допомагати з такими типами банківських операцій. Зосередження на таких функціях під час розробки чат-ботів може підвищити їх використання та корисність для цих клієнтів.

Для банків та фінансових установ, які ще не готові запускати генеративні ШІ-співпілоти безпосередньо для споживачів, ця технологія може підтримувати працівників банку, таких як представники служби підтримки клієнтів, щоб надавати кращі, більш точні та своєчасні відповіді клієнтам під час взаємодії.

4.  Які найбільші виклики у забезпеченні того, щоб фінансові інструменти на основі ШІ були справедливими та ефективними для чорношкірих, латиноамериканських домогосподарств та домогосподарств, очолюваних жінками?

З усіма новими технологіями необхідно докладати цілеспрямованих зусиль, щоб потреби тих, хто заробляє низький та помірний дохід, були враховані в процесі розробки та дизайнерських рішеннях. Ми виявили, що приватне/філантропічне партнерство з фінансовими установами на ранньому етапі допомагає створити імпульс для цих зусиль. Розширюючи доказову базу, ми також допомагаємо сформувати бізнес-кейс.

Ми бачимо значний потенціал для дизайнерських рекомендацій щодо таких речей, як підвищення заробленої довіри, що може дозволити розмовному ШІ підтримувати фінансове здоров'я без значних витрат.

5.  На основі вашого дослідження, які ключові принципи дизайну повинні враховувати постачальники фінансових послуг при інтеграції ШІ для підтримки користувачів з LMI?

Commonwealth створив ресурс, Посібник "Фінансовий ШІ на благо" (Financial AI for Good Guide), щоб надати практичні дизайнерські рекомендації постачальникам фінансових послуг, які обслуговують населення з LMI. Ми розробили ці рекомендації на основі комплексного дослідження з фінансовими установами, постачальниками чат-ботів та людьми, які живуть на LMI.

Посібник організований навколо чотирьох основних дизайнерських цілей. Я наведу один-два приклади для кожної:

2.  Завоювати довіру: Найбільшою проблемою для більшості респондентів нашого дослідження при використанні чат-бота була безпека. Тут фінансові установи можуть підкреслити безпеку даних через попередні повідомлення про заходи, яких вживає банк, а також надати користувачам контроль над тим, які дані зберігаються.
4.  Стимулювати залученість: Зробіть досвід таким, щоб користувачі знали, що ці інструменти можуть для них зробити і коли, створивши ясність щодо їхніх функцій. Також прагніть до "інтелектуальної проактивності". Наприклад, інтегруйте чат-ботів, які з'являються, коли вони можуть бути найбільш корисними, не будучи при цьому надто нав'язливими або агресивними, що може виглядати як спам.
6.  Підвищити цінність: Передбачайте потреби вашого клієнта. Обмежений доступ до фізичних відділень створює можливість для чат-ботів виконувати невеликі дії, які раніше клієнтам доводилося робити в банку. Збалансуйте автоматизацію та контроль, дозволяючи користувачам вмикати та вимикати автоматизовані фінансові функції, а також включайте функції "страхувальної сітки", які призупиняють автоматичне переміщення грошей, якщо баланс падає нижче певного порогу.
8.  Покращити доступність: Пропонуйте багатомовну підтримку та рекомендації, що відповідають вашій клієнтській базі, і зосередьтеся на функціях, зручних для мобільних пристроїв. Наше дослідження показало, що більше половини респондентів віддають перевагу доступу до свого банкінгу через мобільні телефони.

6.  Чи можете ви поділитися історіями успіху чи прикладами з практики, де розмовний ШІ значно покращив фінансовий добробут людей з LMI?

Ми знаємо, що 57% користувачів у нашому польовому дослідженні зазначили, що використання фінансового чат-бота позитивно вплинуло на їхнє фінансове становище. Хоча ці перші результати є багатообіцяючими, інструменти генеративного ШІ все ще перебувають на початковій стадії, і наші поточні дослідження продовжуватимуть створювати доказову базу щодо їх ефективності у покращенні фінансового добробуту людей з LMI.

7.  Які ризики або непередбачувані наслідки слід враховувати фінансовим установам при впровадженні фінансових інструментів на основі ШІ?

Важливо, щоб люди, які заробляють LMI, не були виключені з рівняння. Коли фінансові установи розробляють інструменти, важливо, щоб вони розуміли властиві можливості та способи обслуговування клієнтської бази з LMI.

Існує багато організацій, які зосереджені саме на властивих ризиках та наслідках інструментів на основі ШІ, а також на упередженості та точності великих мовних моделей. Крім того, ми хочемо переконатися, що вирішується першочергова проблема: релевантність фінансових рекомендацій для індивідуальних фінансових ситуацій користувачів. Фінансові установи можуть підвищити залученість клієнтів і завоювати їхню довіру, забезпечуючи точність наданої інформації та справжню прозорість.

ШІ створює безпрецедентну можливість для людей, які заробляють LMI, отримати доступ до порад та інструментів, які раніше були їм недоступні, будь то інвестиційні інструменти або управління особистими фінансами. Ці інструменти можуть бути персоналізовані та налаштовані для людей, які заробляють LMI, та їхніх унікальних ситуацій. Це величезна можливість для постачальників фінансових послуг розширити свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив інструментів на основі ШІ на фінансову безпеку та добробут користувачів?

Основи фінансового благополуччя: Чи спостерігається збільшення заощаджень, зменшення боргу, покращення кредитних балів при використанні цих інструментів?

Ми також можемо опитати досвід взаємодії з чат-ботом — чи зросла довіра? Чи підвищився інтерес до продуктів, які були б корисними для покращення фінансового добробуту? Що стосується консультування, чи були вжиті дії після отримання поради?

Банки також можуть проводити A/B тестування серед різних груп споживачів, які взаємодіють з чат-ботами, порівняно з тими, хто цього не робить, щоб побачити, чи є між ними вимірна різниця.

9.  Яку роль відіграє людський нагляд у розгортанні інструментів ШІ для фінансових послуг, і як постачальники можуть знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити зароблену довіру до ШІ — це забезпечити доступність людини в потрібний час під час взаємодії. Тут може бути корисним використання співпілотів співробітниками банку, які безпосередньо спілкуються з клієнтами. Доступ до живого співробітника, коли це необхідно, підвищує довіру та досвід використання інструменту ШІ.

Використання розмовного ШІ дозволить представникам служби підтримки клієнтів краще та швидше обслуговувати складні потреби своїх клієнтів та членів, забезпечуючи при цьому людський дотик у ключові моменти взаємодії, коли живий агент є бажаним.

Прозорість також має вирішальне значення для побудови довіри в будь-якій взаємодії. Ви повинні знати, наприклад, чи спілкуєтеся ви з чат-ботом, чи з реальною людиною.

10.  Заглядаючи вперед, які найцікавіші можливості відкриває ШІ для фінансової інклюзії протягом наступних п'яти років?

Генеративний ШІ є наступним етапом еволюції підтримки на основі розмовного ШІ, пропонуючи персоналізоване та контекстно-чутливе залучення на рівні, який набагато більше наближається до людської підтримки, ніж структура дерева рішень більшості сучасних фінансових чат-ботів. Початкові застосування генеративного ШІ у фінансах зосереджувалися переважно на бек-офісних додатках, де є можливість підтримувати агентів служби підтримки клієнтів. Визначення того, як генеративний ШІ може надавати персоналізовану підтримку в масштабі у фінансовому контексті, є ключовою можливістю для розвитку цього сектора.

Побудова заробленої довіри буде особливо важливою для ширшого впровадження генеративного ШІ, до якого учасники наших польових випробувань та фокус-груп ставляться більш скептично, ніж до традиційних чат-ботів. Тим не менш, потенційні переваги надання більш просунутого рівня підтримки в різних фінансових додатках роблять генеративний ШІ найцікавішою технологією, за якою варто стежити у фінансовому секторі. Ті, хто зможе розробити довірену та надійну підтримку на основі генеративного ШІ, опиняться на передньому краї цієї нової ери побудови відносин з клієнтами в масштабі.

Деякі інші конкретні можливості, які ми бачимо, це співпілоти та персональні помічники, які можуть надавати комплексні фінансові рекомендації, адаптовані до індивідуальних потреб, свого роду персональний фінансовий коуч. Ми також очікуємо, що досягнення в галузі розмовного ШІ відіграватимуть важливу роль у сприянні фінансовому здоров'ю працівників, надаючи інформацію та рекомендації щодо навігації у складних системах пільг для працівників.

11.  Як ви бачите еволюцію ролі некомерційних організацій, таких як Commonwealth, у формуванні відповідального використання ШІ у фінансових послугах?

Історично склалося так, що дизайн нових технологій зосереджувався на їх прийнятті споживачами з високими доходами, ігноруючи при цьому потреби домогосподарств з LMI. Завдяки нашій ініціативі "Нові технології для всіх" (Emerging Tech for All, ETA), ми зосереджені на тому, щоб потреби фінансово вразливих людей були зрозумілі, помітні, введені у відповідні дискусії та інтегровані в рішення. Ми перебуваємо на критичному етапі масштабування ШІ і вважаємо, що терміново необхідно продовжувати досліджувати та визначати способи, якими ШІ може позитивно вплинути на це населення.

На сьогодні досліджень та впровадження в цій галузі відносно мало, і деякі постачальники, з якими ми спілкувалися, посилалися на необхідність масштабніших досліджень для створення доказової бази, яку вони могли б використовувати для обґрунтування такого типу дизайну всередині компанії. Ми приймаємо цей виклик, проводячи впливові дослідження та польові випробування на місцях, які демонструють, як генеративний ШІ може підтримувати фінансовий добробут домогосподарств, що живуть на LMI, і створюють бізнес-кейс для більш активного проектування для цього недостатньо обслуговуваного сегмента споживачів.

Дивлячись у майбутнє, системний вплив інклюзивного технологічного дизайну залежатиме від масштабного застосування цих ідей великими гравцями у сфері фінансових послуг. Для нас перехід до інклюзивного дизайну в масштабі залежатиме від використання наших досліджень для партнерства з великими організаціями, які прагнуть використати досягнення в галузі ШІ для підтримки фінансового здоров'я своїх клієнтів та працівників.

12.  Яку пораду ви дасте фінансовим установам, які хочуть використовувати ШІ, зберігаючи довіру та прозорість зі своїми клієнтами?

Домогосподарства з LMI більше зацікавлені в особистому банківському обслуговуванні, проте мають найменший доступ до відділень. Цей розрив підкреслює ключову можливість для ШІ надавати той тип персоналізованої підтримки, якого потребують домогосподарства, що живуть на LMI, без необхідності збільшувати кількість відділень або персоналу служби підтримки клієнтів.

Однак, щоб стимулювати ширше впровадження, фінансові установи повинні заслужити та побудувати більше довіри до чат-ботів з боку людей, які заробляють LMI — частково це стосується досвіду використання чат-ботів, а частково є загальногалузевим, оскільки технологія ШІ набуває більшого визнання та покращує загальну безпеку та якість.

Найбільшими проблемами для людей, які взаємодіють з чат-ботами, є безпека та конфіденційність. Загалом люди висловлюють недовіру до розмовного ШІ щодо його корисності, захисту їхніх даних або дії в їхніх інтересах. Хоча багато хто в діловому світі в захваті від потенціалу ШІ, люди, які живуть на LMI, ймовірно, ставляться до нього з більшим скептицизмом як до нової технології, яка ще не продемонструвала свою пряму цінність для них.

Прозора політика щодо даних, обнадійливий брендинг та повідомлення, а також підтримка зв'язку з людиною-агентом як резервний варіант — все це допоможе побудувати та заслужити довіру. Розробка корисних та персоналізованих взаємодій за допомогою генеративного ШІ, які виходять за рамки надання базової інформації, пропонованої сьогодні чат-ботами, такої як баланси рахунків та останні транзакції, також допоможе продемонструвати цінність технології.

Також важливо наголосити на концепції заробленої довіри. Мета полягає не просто в тому, щоб переконати людей довіряти чат-ботам, а насправді спроектувати чат-ботів таким чином, щоб ця довіра була виправдана.