ШІ, довіра та недопредставлені — інтерв’ю з Паулою Грьєко, старшою віцепрезиденткою Commonwealth

Паула Гріеко — старший віцепрезидент у Commonwealth.

Відкрийте для себе найкращі новини та події у сфері фінтех!

Підпишіться на інформаційний бюлетень FinTech Weekly

Читають керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Фінансова AI має пройти довгий шлях — не лише з точки зору швидкості, точності чи навіть регулювання, а й у тому, як вона здобуває довіру. Особливо — з боку тих, хто раніше не був у першій черзі, коли виходить нова технологія.

У FinTech Weekly, ми стежили за роботою Commonwealth — неприбуткової організації, зосередженої на побудові фінансової безпеки для домогосподарств із низькими та середніми доходами (LMI). Їхні польові дослідження, висвітлені в нашій нещодавній редакційній статті, виявили чітке протиріччя: хоча користувачі LMI відкриті до таких інструментів, як чатботи, вони все ще очікують досвіду, який справді їм служить — а не лише переупакованих функцій, створених для когось іншого.

Цього тижня ми заглибилися ще більше.

Ми поговорили з Паула Гріеко, старшим віцепрезидентом у Commonwealth, щоб зрозуміти, що насправді потрібно, аби AI була ефективною — і безпечною — для недостатньо забезпечених спільнот. Від принципів дизайну до довіри, якої заслужено, від ко-пілотів до втоми від чатботів — вона пояснює, чому важливіші наміри, ніж сама лише інновація.

Це приземлений і вдумливий погляд на те, яким — і яким має бути — інклюзивний фінансовий технологічний досвід.

Прочитайте повне інтерв’ю нижче.

2.  Недавня співпраця Commonwealth із JPMorganChase дала ключові висновки про роль AI в покращенні фінансової безпеки для домогосподарств LMI. Які найбільш несподівані або вражаючі результати показало це дослідження?

Наше дослідження висвітлює величезний потенціал AI, зокрема чатботів, надавати персоналізовані поради та підтримку спільнотам, які живуть на нижчих доходах —  якщо чатботи продумані з урахуванням потреб і перспектив цієї групи.

Два ключові висновки:

*   Більшість клієнтів сприймають чатботи як позитивні інструменти для покращення їхнього фінансового благополуччя. Наші дані показали, що 57% респондентів сказали, що використання чатботів покращило їхню фінансову ситуацію. Дослідження також показало, що люди з низьким або середнім доходом (LMI) хочуть функцій для нарощування кредитної історії, бюджетування та керування боргами.

*   Респонденти цінували простір без осуду з чатботом для запитань щодо чутливих фінансових тем — без необхідності турбуватися про сором або зайву самосвідомість, які можуть супроводжувати ту саму розмову віч-на-віч із людським представником.

3.  Як ви бачите еволюцію розмовного AI у сфері фінансових послуг, зокрема для недостатньо забезпечених спільнот?

Ідеально — наступне покоління чатботів, підживлених генеративним AI, стане AI-фінансовими асистентами, які краще підтримуватимуть фінансові активності цих домогосподарств і здобуватимуть довіру серед груп населення, які часто насторожено ставляться до взаємодії з фінансовою системою та до поширення даних онлайн. Існує велика можливість для постачальників фінансових послуг надавати своїм чатботам більш складні, нюансовані та орієнтовані на дії можливості.

Коли клієнти зараз використовують фінансові чатботи, вони насамперед шукають інформацію про рахунки або намагаються розв’язати проблему. Менше ніж 20% респондентів нашого національного опитування користувалися чатботами для фінансових порад і навчання, рекомендацій продуктів, подання заявок на кредит або позики, а також для відкриття чи закриття рахунків. Однак наше дослідження знаходить попит на чатботи, які можуть допомагати з такими типами банківських дій. Зосередження на цих типах функцій під час розробки чатботів може підвищити їх використання та корисність серед цих клієнтів.

Для банків та фінансових установ, які ще не готові напряму запускати генеративні AI-фінансові ко-пілоти для споживачів, ця технологія може підтримувати банківських працівників — наприклад, представників клієнтів — щоб надавати клієнтам під час взаємодій кращі, точніші й більш своєчасні відповіді.

4.  Які є одні з найбільших викликів у забезпеченні справедливості та ефективності AI-орієнтованих фінансових інструментів для домогосподарств, очолюваних людьми Black, Latinx і жінками?

З усіма новими технологіями потрібні цілеспрямовані зусилля, щоб потреби тих, хто заробляє низький або середній дохід, були включені в процес розробки та дизайнерські рішення. Ми виявили, що приватно/філантропічне партнерство з фінансовими інституціями на ранніх етапах допомагає створити імпульс для цих ініціатив. Нарощуючи доказову базу, ми також підсилюємо бізнес-кейс.

Ми бачили значний потенціал у настановах щодо дизайну — зокрема для підвищення довіри, якої заслужено, — що може дозволити розмовному AI підтримувати фінансове здоров’я без істотного зростання витрат.

5.  На основі вашого дослідження, які ключові принципи дизайну мають враховувати постачальники фінансових послуг під час інтеграції AI для підтримки користувачів LMI?

Commonwealth створила ресурс, Financial AI for Good Guide, щоб надавати практичні настанови щодо дизайну постачальникам фінансових послуг, які обслуговують популяції LMI. Ми розробили ці рекомендації на основі всебічних досліджень із фінансовими установами, постачальниками чатботів і людьми, які живуть на рівні LMI.

Посібник організований навколо чотирьох основних цілей дизайну. Я наведу приклад або два для кожної:

2.  Earn trust: Найбільша тривога серед більшості наших респондентів під час використання чатбота — безпека. Саме тут фінансові установи можуть підкреслити безпеку даних за допомогою попередніх повідомлень про те, які заходи банк вживає, а також надати користувачам контроль над тим, які дані зберігаються.
4.  Drive engagement: Зробіть досвід таким, у якому користувачі розуміють, що саме ці інструменти можуть зробити для них, і коли — створивши ясність щодо їхніх функцій. Також прагніть до «інтелектуальної проактивності». Наприклад, інтегруйте чатботи, які з’являються, коли вони можуть бути найбільш корисними, без надмірної наполегливості або агресивності, що може сприйматися як спам.
6.  Increase value: Передбачайте потреби вашого клієнта. Обмежений доступ до фізичних відділень створює можливість для чатботів виконувати невеликі дії, на які клієнтам інакше доводилося б іти до банку. Збалансуйте автоматизацію та контроль, дозволивши користувачам вмикати й вимикати автоматизовані фінансові функції, а також додайте «запобіжні сітки», які призупиняють автоматизоване переміщення грошей, якщо баланс опускається нижче певного порогу.
8.  Improve accessibility: Пропонуйте багатомовну підтримку та настанови, узгоджені з вашою клієнтською базою, і робіть акцент на зручних для мобільних пристроїв функціях. Наше дослідження показало, що понад половина всіх респондентів віддавали перевагу доступу до своїх банківських послуг через мобільні телефони.

6.  Чи можете ви поділитися історіями успіху або кейсами, де розмовний AI суттєво покращив фінансове благополуччя для людей з LMI?

Нам відомо, що 57% користувачів у нашому дослідженні польового тестування зазначили, що використання фінансового чатбота мало позитивний вплив на їхню фінансову ситуацію. Хоча ці ранні результати вселяють надію, інструменти генеративного AI все ще перебувають на початковій стадії, і наше дослідження, що триває, продовжить формувати доказову базу щодо їхньої ефективності в покращенні фінансового благополуччя для людей з LMI.

7.  Які ризики або небажані наслідки фінансові установи мають брати до уваги під час впровадження AI-орієнтованих фінансових інструментів?

Важливо, щоб люди з LMI не випадали з рівняння. Коли фінансові установи розробляють інструменти, важливо, щоб вони розуміли притаманні можливості та способи обслуговування клієнтської бази LMI.

Існує багато організацій, що фокусуються саме на притаманних ризиках і наслідках AI-орієнтованих інструментів, а також на упередженості та точності великих мовних моделей. Поза цим, ми хочемо переконатися, що вирішується ключове занепокоєння: релевантність фінансових рекомендацій для індивідуальної фінансової ситуації користувачів. Фінансові установи можуть підвищити залученість клієнтів і заслужити довіру клієнтів, гарантуючи, що інформація, яку вони надають, є точною, а також забезпечуючи справжню прозорість.

AI відкриває безпрецедентну можливість для людей із LMI отримувати поради та інструменти, які раніше були недоступні для них, будь то інструменти для інвестування або керування особистими фінансами. Ці інструменти можна персоналізувати та налаштовувати під людей із LMI та їхні унікальні обставини. Це величезна можливість для фінансових провайдерів розширювати свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив AI-орієнтованих інструментів на фінансову безпеку та благополуччя користувачів?

Основи фінансового благополуччя:  Чи зростають заощадження, чи зменшується борг, чи покращуються кредитні рейтинги під час використання цих інструментів?

Ми можемо також опитувати досвід взаємодії з чатботом — чи зросла довіра? Чи зріс інтерес до продуктів, які могли б допомогти покращити фінансове благополуччя? Коли справа доходить до надання порад, чи були вчинені дії після отримання порад?

Банки також можуть проводити A/B-тестування серед різних груп споживачів, які взаємодіють із чатботами, порівняно з тими, хто не взаємодіє, щоб побачити, чи є між ними вимірювана різниця.

9.  Яку роль відіграє людський нагляд у впровадженні AI-інструментів для фінансових послуг, і як постачальникам досягти правильного балансу між автоматизацією та людською підтримкою?

Один із способів підвищити довіру, якої заслужено, навколо AI — переконатися, що в потрібні моменти під час взаємодії доступна людина.  Саме тут використання ко-пілотів працівниками банку, які спілкуються з клієнтами, може бути корисним. Доступ до живої людини, коли це потрібно, підвищує довіру та якість досвіду з AI-інструментом.

Використання розмовного AI дозволить представникам служби підтримки клієнтів краще та швидше обслуговувати складні потреби клієнтів і членів спільноти, водночас надаючи людський контакт у ключових точках взаємодії, коли потрібен живий агент.

Прозорість також критично важлива для формування довіри під час будь-якої взаємодії. Ви маєте знати, наприклад, чи спілкуєтеся ви з чатботом, чи з реальною людиною.

10.  Зазирнемо вперед: які найзахопливіші можливості для AI у фінансовій інклюзії протягом наступних п’яти років?

Генеративний AI — це наступна еволюція підтримки розмовного AI, яка пропонує персоналізовану взаємодію з урахуванням контексту на рівні, що значно ближче імітує людську підтримку, ніж структура «дерева рішень» більшості фінансових чатботів сьогодні. Перші застосування генеративного AI у фінансах були зосереджені переважно на бек-офісних застосунках, де є можливість підтримувати агентів служби підтримки клієнтів. Визначення того, як генеративний AI може надавати персоналізовану підтримку в масштабі в фінансовому контексті, є ключовою можливістю для стимулювання розвитку в цьому секторі.

Побудова довіри, якої заслужено, буде особливо критичною для ширшого впровадження генеративного AI, адже учасники наших польових тестів і фокус-груп залишаються більш скептичними, ніж щодо традиційних чатботів. Проте потенційні переваги надання більш просунутого рівня підтримки в усіх сценаріях фінансових сервісів роблять генеративний AI найзахопливішою технологією, за якою варто стежити в фінансовому секторі. Ті, хто зможе розробляти довірену та надійну підтримку на базі генеративного AI, будуть на передньому краї цієї нової ери побудови стосунків із клієнтами в масштабі.

Ще деякі конкретні можливості, які ми бачимо, — це ко-пілоти та персональні асистенти, що можуть надавати комплексні фінансові рекомендації, адаптовані під індивідуальні потреби — скажімо, персональний фінансовий коуч. Ми також очікуємо, що прогрес у розмовному AI відіграватиме цінну роль у сприянні фінансовому здоров’ю працівників, надаючи інформацію та поради для навігації складними системами корпоративних пільг працівників.

11.  Як ви бачите роль неприбуткових організацій на кшталт Commonwealth у формуванні відповідального використання AI у фінансових послугах?

Історично дизайн нових технологій був зосереджений на впровадженні їх споживачами з вищими доходами, водночас ігноруючи потреби домогосподарств LMI. Завдяки нашій ініціативі Emerging Tech for All (ETA) ми прагнемо переконатися, що потреби фінансово вразливих людей розуміються, стають видимими, потрапляють у релевантні обговорення та інтегруються в рішення. Ми перебуваємо в критичній точці перелому в масштабуванні AI і вважаємо, що потрібно нагально продовжувати дослідження та визначати способи, як AI може позитивно впливати на цю популяцію.

Сьогодні відносно мало досліджень і впроваджень у цій сфері існує, і деякі провайдери, з якими ми спілкувалися, посилалися на необхідність більших за масштабом досліджень, щоб створити той тип доказової бази, яку можна використати, аби обґрунтувати такі підходи до дизайну всередині організації. Ми відповідаємо на цей виклик, виробляючи впливові дослідження та польові тести на місцях, які показують, як генеративний AI може підтримувати фінансове благополуччя домогосподарств, що живуть на рівні LMI, а також формують бізнес-кейс для більш активного дизайну під інтереси цієї недостатньо забезпеченої категорії споживачів.

Дивлячись у майбутнє, системний вплив інклюзивного дизайну технологій залежатиме від масштабних застосувань цих інсайтів великими гравцями у фінансових послугах. Для нас перехід інклюзивного дизайну до масштабу залежатиме від використання наших досліджень для партнерства з більшими організаціями, які прагнуть скористатися прогресом у AI, щоб підтримувати фінансове здоров’я своїх клієнтів і працівників.

12.  Яку пораду ви б дали фінансовим установам, які хочуть використати AI, зберігаючи довіру та прозорість щодо своїх клієнтів?

Домогосподарства LMI більше зацікавлені в банкінгу напряму з людиною, однак мають найменший доступ до офлайн-відділень. Цей розрив підкреслює ключову можливість для AI надавати той тип персоналізованої підтримки, якого шукають домогосподарства LMI, без необхідності збільшувати кількість відділень або штат підтримки клієнтів.

Однак, щоб стимулювати ширше впровадження, фінансові установи мають здобути й наростити більше довіри до чатботів серед людей, які заробляють на рівні LMI — частково це пов’язано саме з досвідом взаємодії з чатботом, а частково — з індустрією загалом, оскільки технологія AI отримує більше прийняття та покращує загальну безпеку й якість.

Найбільші занепокоєння людей, які взаємодіють із чатботами, — це безпека та приватність.  Загалом люди висловлювали брак довіри до розмовного AI щодо того, що він допоможе, захистить їхні дані або діятиме в їхніх найкращих інтересах. Хоча багато хто у бізнес-світі захоплюється потенціалом AI, люди, які живуть на рівні LMI, імовірно дивляться на це з більшою скептичністю як на нову технологію, яка ще не продемонструвала свою безпосередню цінність для них.

Прозорі політики щодо даних, заспокійливий брендинг і повідомлення, а також підтримання зв’язку з людиною як варіантом резерву — усе це допоможе будувати та здобувати довіру. Розробка корисних і персоналізованих взаємодій за допомогою генеративного AI, які виходять за межі надання базової інформації, яку чатботи пропонують сьогодні, як-от баланси рахунків і нещодавні транзакції, також допоможе показати цінність технології.

Також важливо підкреслювати концепцію довіри, якої заслужено. Мета — не просто переконати людей довіряти чатботам, а фактично спроєктувати чатботи так, щоб ця довіра була обґрунтованою.