ШІ, довіра та недопредставлені — інтерв’ю з Паулою Грьєко, старшою віцепрезиденткою Commonwealth

Паула Гріко — старша віцепрезидентка в Commonwealth.

Відкрийте для себе найкращі новини та події у фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Фінансовому ШІ ще є куди розвиватися — не лише з погляду швидкості, точності чи навіть регулювання, а й у тому, як він заробляє довіру. Особливо з боку тих, хто традиційно не є в першій черзі, коли нові технології запускають.

У FinTech Weekly ми стежимо за роботою Commonwealth — некомерційної організації, зосередженої на побудові фінансової безпеки для домогосподарств із низьким і помірним доходом (LMI). Їхнє польове дослідження, висвітлене в нашому нещодавньому редакційному матеріалі, показало чітку напругу: поки користувачі з LMI відкриті до інструментів на кшталт чатботів, вони все ще чекають на досвід, який справді їм служить — а не на переупаковані функції, створені для когось іншого.

Цього тижня ми занурилися глибше.

Ми поспілкувалися з Паула Гріко, старшою віцепрезиденткою в Commonwealth, щоб зрозуміти, що насправді потрібно, аби зробити ШІ ефективним — і безпечним — для недостатньо забезпечених спільнот. Від принципів дизайну до довіри, яку здобувають, від ко-пілотів до втоми від чатботів — вона пояснює, чому важливий задум, а не лише інновації.

Це заземлений і продуманий погляд на те, як — і яким має бути — інклюзивний фінансовий технологічний сервіс.

Читайте повне інтерв’ю нижче.

2.  Нещодавня співпраця Commonwealth із JPMorganChase дала ключові висновки про роль ШІ в покращенні фінансової безпеки для домогосподарств із LMI. Які з найбільш несподіваних або вагомих результатів дала ця робота?

Наше дослідження висвітлює колосальний потенціал ШІ, зокрема чатботів, надавати персоналізовані поради та підтримку спільнотам, які живуть на нижчих доходах —  якщо чатботи розроблені уважно з урахуванням потреб і поглядів цієї групи.

Два ключові висновки:

*   Клієнти здебільшого розглядають чатботів як позитивні інструменти для покращення власного фінансового добробуту. Наші дані показали, що 57% респондентів сказали, що використання чатботів покращило їхню фінансову ситуацію. Дослідження також показало, що люди з низьким і помірним доходом (LMI) хочуть функцій для нарощування кредитної історії, бюджетування та керування боргами.

*   Респонденти цінували простір без осуду з чатботом, щоб ставити делікатні фінансові запитання без хвилювання про сором чи скутість, які можуть супроводжувати ту саму розмову віч-на-віч із представником-людиною.

3.  Як ви бачите еволюцію розмовного ШІ у сфері фінансових послуг, зокрема для недостатньо забезпечених спільнот?

Ідеально, наступне покоління чатботів, що працюватиме на базі генеративного ШІ, стане AI-фінансовими асистентами, які краще підтримуватимуть фінансові активності цих домогосподарств і здобуватимуть довіру в аудиторіях, які часто насторожено ставляться до взаємодії з фінансовою системою та до обміну даними онлайн. Тут є велика можливість для постачальників фінансових послуг надавати своїм чатботам більш складні, нюансовані та орієнтовані на дію можливості.

Коли клієнти зараз користуються фінансовими чатботами, вони насамперед шукають інформацію про рахунки або намагаються вирішити проблему. Менше ніж 20% респондентів нашого національного опитування користувалися чатботами для фінансових порад та навчання, рекомендацій щодо продуктів, подання заявок на кредит або позики, а також відкриття чи закриття рахунків. Однак наше дослідження знаходить попит на чатботи, які можуть допомагати з такими типами банківських дій. Фокус на цих типах функцій під час розробки чатботів може підвищити їхнє використання та корисність для цих клієнтів.

Для банків і фінансових установ, які ще не готові напряму запускати генеративні AI-ко-пілоти для споживачів, ця технологія може підтримувати банківських працівників, зокрема представників клієнтської служби, щоб надавати клієнтам під час взаємодій кращі, точніші та своєчасніші відповіді.

4.  Які є одні з найбільших викликів у забезпеченні того, щоб AI-орієнтовані фінансові інструменти були справедливими та ефективними для домогосподарств на чолі з чорношкірими, латиноамериканцями та жінками?

Для всіх нових технологій потрібні навмисні зусилля, щоб потреби тих, хто заробляє низький або помірний дохід, були включені в процес розробки та в рішення щодо дизайну. Ми з’ясували, що приватно/філантропічне партнерство з фінансовими установами на ранньому етапі допомагає нарощувати імпульс для цих ініціатив. Нарощуючи доказову базу, ми також допомагаємо сформувати бізнес-кейс.

Ми бачили значний потенціал у дизайному консультуванні щодо речей на кшталт підвищення здобутої довіри, що може дозволити розмовному ШІ підтримувати фінансове здоров’я без суттєвого зростання витрат.

5.  Спираючись на ваше дослідження, які ключові принципи дизайну мають враховувати постачальники фінансових послуг, коли інтегрують AI для підтримки користувачів із LMI?

Commonwealth створила ресурс — Financial AI for Good Guide — щоб надавати практичні рекомендації щодо дизайну постачальникам фінансових послуг, які обслуговують населення з LMI. Ми розробили ці рекомендації на основі ґрунтовного дослідження з фінансовими установами, провайдерами чатботів і людьми, які живуть на LMI.

Посібник структурований навколо чотирьох основних цілей дизайну. Я наведу приклад або два для кожної:

2.  Здобуття довіри: Головне занепокоєння серед більшості респондентів нашого дослідження під час використання чатбота — безпека. Саме тут фінансові установи можуть підкреслити захист даних через попередні повідомлення про ті заходи, які банк вживає, а також надати користувачам контроль над тим, які дані зберігатимуться.
4.  Стимулювання залучення: Зробіть досвід таким, щоб користувачі розуміли, що саме ці інструменти можуть для них зробити і коли — створюючи ясність щодо їхніх функцій. Також прагніть до «розумної проактивності». Наприклад, інтегруйте чатботи, які з’являтимуться, коли вони можуть бути найкориснішими, без надмірної нав’язливості чи агресивності — тобто так, щоб це не виглядало як спам.
6.  Підвищення цінності: Передбачайте потреби вашого клієнта. Обмежений доступ до фізичних відділень створює можливість для чатботів виконувати дрібні дії, заради яких клієнтам, можливо, доводилося б іти до банку. Збалансуйте автоматизацію й контроль, дозволивши користувачам вмикати й вимикати автоматизовані фінансові функції, а також додайте функції «запобіжної сітки», які призупиняють автоматизований рух грошей, якщо баланс опускається нижче певного порогу.
8.  Покращення доступності: Надавайте підтримку кількома мовами та поради, узгоджені з вашою клієнтською базою, і зосереджуйтеся на функціях, зручних для мобільних пристроїв. Наше дослідження показало, що більше половини всіх респондентів надавали перевагу тому, щоб отримувати доступ до своїх банківських послуг через мобільні телефони.

6.  Чи можете ви поділитися будь-якими історіями успіху або кейсами, де розмовний ШІ суттєво покращив фінансовий добробут для людей із LMI?

Нам відомо, що 57% користувачів у нашому польовому тестовому дослідженні зазначили: використання фінансового чатбота мало позитивний вплив на їхню фінансову ситуацію. Хоча ці ранні результати обнадійливі, інструменти генеративного ШІ все ще перебувають на початкових етапах, і наше подальше дослідження продовжуватиме формувати доказову базу щодо їхньої ефективності в покращенні фінансового добробуту для людей із LMI.

7.  Які ризики або небажані наслідки мають враховувати фінансові установи під час упровадження AI-орієнтованих фінансових інструментів?

Важливо, щоб люди з LMI не залишалися поза рівнянням. Коли фінансові установи розробляють інструменти, важливо, щоб вони розуміли притаманні можливості та способи обслуговувати базу клієнтів із LMI.

Існує багато організацій, що зосереджуються саме на притаманних ризиках і наслідках AI-орієнтованих інструментів, а також на упередженості й точності великих мовних моделей. Окрім цього, ми хочемо переконатися, що вирішується першочергове занепокоєння: доречність фінансових рекомендацій для індивідуальної фінансової ситуації користувачів. Фінансові установи можуть підвищити залученість клієнтів і заробити їхню довіру, гарантуючи, що надана інформація є точною та що є справжня прозорість.

AI створює безпрецедентну можливість для людей із LMI отримувати поради та інструменти, які раніше для них недоступні — незалежно від того, йдеться про інвестування чи про керування особистими фінансами. Ці інструменти можна персоналізувати та налаштувати для людей із LMI та їхніх унікальних ситуацій. Це велика можливість для фінансових провайдерів розширювати свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив AI-орієнтованих інструментів на фінансову безпеку та добробут користувачів?

Основи фінансового благополуччя:  Чи зростають заощадження, чи зменшується борг, чи покращуються кредитні рейтинги під час використання цих інструментів?

Ми також можемо опитувати про досвід взаємодії з чатботом — чи зросла довіра? Чи з’являється більший інтерес до продуктів, які можуть допомогти покращити фінансовий добробут? Що стосується надання порад: чи були вжиті дії після отримання порад?

Банки також можуть робити A/B-тестування серед різних груп споживачів, які взаємодіють із чатботами, проти тих, хто не взаємодіє, щоб побачити, чи існує вимірювана різниця між ними.

9.  Яку роль відіграє людський нагляд під час розгортання AI-інструментів для фінансових послуг, і як постачальникам знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити здобуту довіру щодо AI — переконатися, що є людина, до якої можна звернутися в потрібні моменти під час взаємодії.  Саме тут використання ко-пілотів банківськими працівниками, які працюють із клієнтами, може бути корисним. Доступ до живої людини, коли це потрібно, підвищує довіру та досвід із AI-інструментом.

Використання розмовного AI дозволить представникам служби підтримки клієнтів краще та швидше обслуговувати складні потреби клієнтів і членів спільноти, водночас забезпечуючи людський дотик у ключових точках взаємодії, коли бажаний живий агент.

Прозорість також критично важлива для формування довіри в будь-якій взаємодії. Ви маєте знати, наприклад, чи розмовляєте ви з чатботом, чи з реальною людиною.

10.  Дивлячись уперед, які найбільш захопливі можливості для AI в фінансовій інклюзії на найближчі п’ять років?

Генеративний AI — це наступна еволюція підтримки розмовного AI: персоналізована й контекстно-чутлива взаємодія на рівні, який набагато ближче наближає людську підтримку, ніж структура рішень-гілок більшості фінансових чатботів сьогодні. Початкові застосування генеративного AI у фінансах здебільшого були зосереджені на бек-офісних застосуваннях, де є можливість підтримати агентів служби підтримки клієнтів. Визначення того, як генеративний AI може забезпечувати персоналізовану підтримку в масштабі у фінансовому контексті, є ключовою можливістю для розвитку в цьому секторі.

Здобуття довіри особливо критично важливе для ширшого впровадження генеративного AI, адже учасники наших польових тестів і фокус-груп залишаються більш скептичними до нього, ніж до традиційних чатботів. Втім, потенційні переваги надання більш просунутого рівня підтримки в межах застосувань фінансових сервісів роблять генеративний AI найзахопливішою технологією, за якою варто стежити в фінансовому секторі. Ті, хто зможе розробляти довірений і надійний генеративний AI, будуть на передовій цього нового етапу побудови взаємин із клієнтами в масштабі.

Ще кілька конкретних можливостей, які ми бачимо, — це ко-пілоти й персональні асистенти, що можуть надавати комплексні фінансові рекомендації, узгоджені з індивідуальними потребами, — умовно кажучи, персональний фінансовий коуч. Ми також очікуємо, що прогрес у розмовному AI відіграватиме цінну роль у покращенні фінансового здоров’я працівників, надаючи інформацію та навігацію, щоб орієнтуватися в складних системах працівницьких пільг.

11.  Як ви бачите роль некомерційних організацій на кшталт Commonwealth у формуванні відповідального використання AI у фінансових послугах?

Історично дизайн нових технологій був зосереджений на впровадженні споживачами з вищими доходами, водночас ігноруючи потреби домогосподарств із LMI. Завдяки нашій ініціативі Emerging Tech for All (ETA) ми прагнемо переконатися, що потреби фінансово вразливих людей зрозумілі, видимі, вводяться в релевантні розмови та інтегруються в рішення. Ми перебуваємо в критичній точці перегину, коли масштабують ШІ, і віримо, що терміново потрібно продовжувати досліджувати та визначати способи, як AI може позитивно впливати на цю категорію людей.

Сьогодні в цій темі існує відносно небагато досліджень і впроваджень у практичній площині, і деякі провайдери, з якими ми спілкувалися, посилалися на потребу в масштабніших дослідженнях, щоб створити той тип доказів, який вони могли б використати, щоб обґрунтувати такий підхід до дизайну всередині своїх організацій. Ми відповідаємо на цей виклик, створюючи вагомі дослідження та польові тести на місцях, які демонструють, як генеративний AI може підтримувати фінансове благополуччя домогосподарств, що живуть на LMI, і допомагає обґрунтувати бізнес-підхід до більш активного проєктування для цього недостатньо забезпеченого сегмента споживачів.

Рухаючись у майбутнє, системний вплив інклюзивного дизайну технологій залежатиме від масштабного застосування цих висновків ключовими гравцями у сфері фінансових послуг. Для нас переведення інклюзивного дизайну в масштаб залежатиме від того, чи зможемо використати наші дослідження, щоб партнеритися з більшими організаціями, які прагнуть скористатися прогресом у AI для підтримки фінансового здоров’я своїх клієнтів і працівників.

12.  Яку пораду ви дали б фінансовим установам, які хочуть використати AI, зберігаючи довіру та прозорість щодо своїх клієнтів?

Домогосподарства з LMI більше зацікавлені в тому, щоб банківські послуги надавав безпосередньо людина, але вони мають найменший доступ до очних відділень. Цей розрив підкреслює ключову можливість для AI: надати той тип персоналізованої підтримки, якого шукають домогосподарства з LMI, без необхідності збільшувати кількість відділень чи персоналу служби підтримки клієнтів.

Втім, щоб стимулювати ширше впровадження, фінансові установи мають здобувати й нарощувати більше довіри до чатботів серед людей із LMI — частина цього пов’язана саме з досвідом використання чатбота, а частина — з поширеними в індустрії чинниками, адже коли технології AI набувають більшого прийняття й покращують загальну безпеку та якість, це стосується всього ринку.

Головні занепокоєння людей, які взаємодіють із чатботами, — безпека та конфіденційність.  Загалом люди висловлювали брак довіри до розмовного AI щодо того, що він буде корисним, захищатиме їхні дані або діятиме в їхніх найкращих інтересах. Хоча багато людей у бізнес-середовищі захоплені потенціалом AI, люди, які живуть на LMI, ймовірно, ставляться до нього більш скептично як до нової технології, яка ще не продемонструвала свою безпосередню цінність для них.

Прозорі політики щодо даних, заспокійливий брендинг і повідомлення, а також збереження зв’язку з людським агентом як резервної опції допоможуть у побудові та здобутті довіри. Розробка корисних і персоналізованих взаємодій за допомогою генеративного AI, які виходять за межі надання базової інформації, яку чатботи дають сьогодні, наприклад, залишків на рахунках і нещодавніх транзакцій, також допоможе показати цінність технології.

Також важливо підкреслити концепцію здобутої довіри. Мета — не просто переконати людей довіряти чатботам, а реально спроєктувати чатботи так, щоб ця довіра була виправданою.