ШІ, довіра та недопредставлені — інтерв’ю з Паулою Грічо, старшою віцепрезиденткою Commonwealth

Паула Греко — старший віце-президент у Commonwealth.

Дізнайтеся про найважливіші новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Фінансовий штучний інтелект має ще багато шляхів для розвитку — не лише у швидкості, точності або регулюванні, а й у способах здобуття довіри. Особливо від тих, хто традиційно не був першими у черзі, коли з’являються нові технології.

У FinTech Weekly ми слідкуємо за роботою Commonwealth, некомерційної організації, яка зосереджена на створенні фінансової безпеки для домогосподарств з низьким та середнім доходом (LMI). Їхня польова робота, описана у нашій недавній редакційній статті, виявила чіткий конфлікт: хоча користувачі з LMI відкриті до інструментів, таких як чат-боти, вони все ще чекають досвіду, який справді їх обслуговує — а не просто перепакованих функцій, створених для інших.

Цього тижня ми заглибилися ще більше.

Ми поспілкувалися з Паула Греко, старшим віце-президентом у Commonwealth, щоб зрозуміти, що насправді потрібно для того, щоб штучний інтелект був ефективним — і безпечним — для недопредставлених спільнот. Від принципів дизайну до здобутої довіри, від співпілотів до втоми від чат-ботів, вона ділиться, чому намір важливіший за інновації самі по собі.

Це обґрунтований і продуманий погляд на те, якою може — і повинна — бути інклюзивна фінансова технологія.

Читати повне інтерв’ю нижче.

2.  Остання співпраця Commonwealth із JPMorganChase дала ключові уявлення про роль штучного інтелекту у підвищенні фінансової безпеки для домогосподарств з низьким доходом. Які були найбільш несподівані або впливові висновки цього дослідження?

Наші дослідження висвітлюють величезний потенціал штучного інтелекту, зокрема чат-ботів, для надання персоналізованих порад і підтримки спільнот із низьким доходом — якщо чат-боти розроблені з урахуванням потреб і перспектив цієї групи.

Два ключові висновки:

*   Клієнти здебільшого сприймають чат-боти як позитивний інструмент для покращення свого фінансового становища. Наші дані показали, що 57% респондентів вважають, що використання чат-ботів покращило їхню фінансову ситуацію. Також дослідження показало, що люди з низьким і середнім доходом прагнуть функцій для побудови кредитної історії, бюджету та управління боргами.

*   Респонденти цінували беззастережний простір для запитань щодо чутливих фінансових питань без страху сорому або самосвідомості, які можуть виникнути при особистій розмові з представником.

3.  Як ви бачите розвиток conversational AI у сфері фінансових послуг, особливо для недопредставлених спільнот?

Ідеальною перспективою є те, що наступне покоління чат-ботів на базі генеративного штучного інтелекту стане фінансовими асистентами, які краще підтримують фінансову діяльність цих домогосподарств і здобувають довіру тих, хто часто насторожено ставиться до взаємодії з фінансовою системою та обміну даними онлайн. Є велика можливість для фінансових провайдерів створити більш складні, нюансовані та орієнтовані на дії функції для своїх чат-ботів.

Зараз клієнти використовують фінансові чат-боти переважно для отримання інформації про рахунки або вирішення проблем. Менше 20% наших респондентів у національному опитуванні використовували чат-боти для фінансових порад, освіти, рекомендацій щодо продуктів, подачі заявок на кредити або відкриття/закриття рахунків. Однак наше дослідження показує, що існує попит на чат-боти, які можуть допомагати з цими операціями. Орієнтація на такі функції при розробці чат-ботів може збільшити їх використання та корисність для цих клієнтів.

Для банків і фінансових установ, які ще не готові запускати генеративних фінансових співпілотів безпосередньо для споживачів, ця технологія може підтримувати співробітників банку, наприклад, співробітників служби підтримки, щоб вони могли швидше і точніше відповідати клієнтам під час взаємодії.

4.  Які найбільші виклики у забезпеченні справедливості та ефективності AI-фінансових інструментів для домогосподарств, очолюваних чорними, латинськими та жінками?

З усіма новими технологіями потрібно свідомо враховувати потреби тих, хто має низький і середній дохід, у процесі розробки та прийняття рішень. Ми виявили, що приватно-філантропічне партнерство з фінансовими установами на ранніх етапах допомагає створити імпульс для таких зусиль. Створюючи базу доказів, ми також допомагаємо формувати бізнес-кейс.

Ми бачимо значний потенціал у розробці рекомендацій щодо підвищення здобутої довіри, що може дозволити conversational AI підтримувати фінансове здоров’я без значних додаткових витрат.

5.  За вашими дослідженнями, які основні принципи дизайну мають враховувати фінансові провайдери при інтеграції AI для підтримки користувачів з LMI?

Commonwealth створила ресурс — Посібник з фінансового AI для добра, який надає практичні рекомендації для фінансових установ, що обслуговують LMI-населення. Ці рекомендації базуються на всебічних дослідженнях із фінансовими інституціями, постачальниками чат-ботів і людьми з LMI.

Посібник структурований навколо чотирьох основних цілей дизайну. Ось кілька прикладів для кожної:

2.  Здобути довіру: Найбільша турбота серед наших респондентів — безпека. Тут фінансові установи можуть підкреслити захист даних через початкові повідомлення про заходи безпеки та надати користувачам контроль над збереженими даними.
4.  Заохочувати залучення: Створюйте досвід, де користувачі розуміють, що ці інструменти можуть для них зробити і коли, забезпечуючи ясність щодо їх функцій. Також прагніть до «інтелектуальної проактивності»: інтегруйте чат-боти, які з’являтимуться у найкорисніший момент, не будучи нав’язливими або агресивними.
6.  Збільшити цінність: Передбачайте потреби клієнтів. Обмежений доступ до фізичних відділень створює можливість для чат-ботів виконувати дрібні операції, на які раніше потрібно було йти у банк. Балансуйте автоматизацію та контроль, дозволяючи користувачам вмикати або вимикати автоматичні фінансові функції, а також додайте «захисні мережі», які зупиняють автоматичний переказ грошей, якщо баланс опускається нижче певного порогу.
8.  Покращити доступність: Забезпечте багатомовну підтримку та рекомендації, адаптовані до вашої клієнтської бази, зосереджуючись на мобільних функціях. Наші дослідження показали, що понад половина респондентів віддає перевагу доступу до банківських послуг через мобільний телефон.

6.  Чи можете ви поділитися історіями успіху або кейсами, де conversational AI значно покращив фінансове благополуччя людей з LMI?

Ми знаємо, що 57% учасників нашого польового дослідження зазначили, що використання фінансового чат-бота позитивно вплинуло на їхнє фінансове становище. Хоча ці початкові результати обнадійливі, генеративні інструменти AI ще на початковій стадії розвитку, і наше подальше дослідження продовжить формувати базу доказів їхньої ефективності у покращенні фінансового благополуччя для LMI.

7.  Які ризики або непередбачені наслідки мають враховувати фінансові установи при впровадженні AI-фінансових інструментів?

Важливо, щоб люди з низьким і середнім доходом не були виключені з процесу. При розробці інструментів потрібно розуміти можливості та способи обслуговування цієї клієнтської бази. Існує багато організацій, що спеціалізуються на ризиках і наслідках AI, а також на упередженнях і точності великих мовних моделей. Крім того, важливо, щоб основною проблемою залишалася релевантність фінансових рекомендацій для конкретної ситуації користувача. Фінансові установи можуть підвищити залучення клієнтів і здобути їхню довіру, забезпечуючи точність інформації та прозорість.

AI відкриває безпрецедентні можливості для людей з низьким доходом отримати доступ до порад і інструментів, раніше недоступних їм, будь то інвестиційні інструменти або управління особистими фінансами. Ці інструменти можна персоналізувати та адаптувати під унікальні ситуації. Це величезна можливість для фінансових провайдерів розширити свою клієнтську базу.

8.  Як фінансові установи можуть вимірювати реальний вплив AI-інструментів на фінансову безпеку та добробут користувачів?

Основи фінансового благополуччя: чи зростає заощадження, зменшується борг, покращуються кредитні рейтинги при використанні цих інструментів?

Ми також можемо опитати користувачів щодо досвіду взаємодії з чат-ботами — чи зросла довіра? Чи з’явився інтерес до продуктів, що сприяють фінансовому благополуччю? Чи були зроблені дії після отримання поради?

Банки можуть проводити A/B тестування серед різних груп споживачів, які взаємодіють із чат-ботами, і тих, хто не взаємодіє, щоб визначити, чи є між ними різниця.

9.  Яку роль відіграє людський контроль у впровадженні AI-інструментів у фінансові послуги, і як провайдери можуть знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити здобуту довіру до AI — забезпечити можливість доступу до людини у потрібний момент під час взаємодії. Тут корисним є використання співпілотів для співробітників банку, що обслуговують клієнтів. Доступ до живої людини у потрібний час підвищує довіру та покращує досвід роботи з AI.

Використання conversational AI дозволяє співробітникам служби підтримки швидше і краще обслуговувати складні потреби клієнтів, зберігаючи людський аспект у ключові моменти взаємодії, коли потрібен реальний агент.

Прозорість також є критичною для формування довіри. Наприклад, потрібно знати, чи спілкуєтеся ви з чат-ботом чи з реальною людиною.

10.  Які найбільш перспективні можливості AI у сфері фінансової інклюзії на найближчі п’ять років?

Генеративний AI — це наступна еволюція conversational AI, яка пропонує персоналізоване та контекстуально чутливе залучення, наближаючись до рівня людської підтримки більше, ніж більшість сучасних фінансових чат-ботів на основі дерева рішень. Початкові застосування генеративного AI у фінансах зосереджені переважно на бек-офісних процесах, де є можливість підтримувати агентів служби підтримки. Визначення способів масштабної персоналізованої підтримки у фінансовому секторі — ключова можливість для розвитку цієї технології.

Збудувати здобуту довіру буде особливо важливо для широкого впровадження генеративного AI, оскільки учасники наших польових тестів і фокус-груп залишаються більш скептичними щодо нього, ніж щодо традиційних чат-ботів. Проте потенційні переваги — надання більш просунутого рівня підтримки у фінансових сервісах — роблять генеративний AI найцікавішою технологією для спостереження у фінансовій галузі. Ті, хто зможуть створити надійний і довірений генеративний AI, опиняться на передовій нової ери масштабних взаємовідносин із клієнтами.

Ще однією перспективою є співпілоти та особисті асистенти, які можуть надавати комплексні фінансові поради, адаптовані до індивідуальних потреб, — так званий особистий фінансовий тренер. Також очікуємо, що прогрес у conversational AI відіграє важливу роль у підтримці фінансового здоров’я працівників, надаючи інформацію та рекомендації для орієнтації у складних системах корпоративних пільг.

11.  Як ви бачите роль некомерційних організацій, таких як Commonwealth, у формуванні відповідального використання AI у фінансових послугах?

Історично дизайн нових технологій орієнтувався на залучення споживачів із високими доходами, ігноруючи потреби домогосподарств з низьким доходом. Через нашу ініціативу Emerging Tech for All (ETA) ми прагнемо забезпечити розуміння, видимість, обговорення та інтеграцію потреб фінансово вразливих людей у відповідні дискусії та рішення. Ми перебуваємо на критичному етапі масштабування AI і вважаємо, що терміново потрібно продовжувати дослідження та визначати способи, якими AI може позитивно впливати на цю групу.

Зараз у цій сфері мало досліджень і впроваджень, і деякі провайдери, з якими ми спілкувалися, наголошували на необхідності масштабних досліджень для створення доказової бази, яка допоможе внутрішньо обґрунтувати дизайн. Ми відповідаємо цій виклику, проводячи важливі дослідження і польові випробування, що демонструють, як генеративний AI може підтримувати фінансове благополуччя домогосподарств із низьким доходом і формувати бізнес-кейси для активнішого проектування для цієї сегменту.

У майбутньому системний вплив інклюзивного дизайну технологій залежатиме від масштабного застосування цих знань великими гравцями у фінансовому секторі. Для нас масштабування інклюзивного дизайну залежатиме від використання наших досліджень у партнерстві з великими організаціями, які прагнуть використовувати AI для підтримки фінансового здоров’я своїх клієнтів і працівників.

12.  Які поради ви дали б фінансовим установам, що прагнуть використовувати AI, зберігаючи довіру та прозорість для своїх клієнтів?

Люди з низьким доходом більше зацікавлені у безпосередніх контактах із людьми, але мають найменший доступ до фізичних відділень. Ця різниця створює ключову можливість для AI — надавати персоналізовану підтримку, яку шукають ці домогосподарства, без необхідності збільшувати кількість відділень або співробітників підтримки.

Однак для широкого впровадження потрібно здобути і зміцнити довіру до чат-ботів саме у людей з низьким доходом — частково через досвід роботи з чат-ботами, частково через загальне прийняття AI та покращення безпеки і якості технології. Основні побоювання — безпека та конфіденційність даних. Загалом, люди висловлюють недовіру до conversational AI щодо корисності, захисту їхніх даних або дій у їхніх інтересах. Хоча багато бізнесів захоплені потенціалом AI, люди з низьким доходом, ймовірно, ставляться до нього з більшою скептичною увагою, оскільки ця технологія ще не довела свою цінність для них безпосередньо.

Прозорі політики щодо даних, заспокійливий брендинг і меседжинг, а також можливість звернутися до живого агента у разі потреби — все це сприятиме формуванню і здобуттю довіри. Створення корисних і персоналізованих взаємодій за допомогою генеративного AI, що виходять за межі базової інформації, яку сьогодні надають чат-боти (баланси рахунків, останні транзакції), також допоможе продемонструвати цінність цієї технології.

Важливо також підкреслювати концепцію здобутої довіри. Мета — не просто переконати людей довіряти чат-ботам, а проектувати їх так, щоб ця довіра була виправданою.