ШІ, довіра та недостатньо обслуговувані — інтерв’ю з Паулою Грьєко, старшим віце-президентом у Commonwealth

Пауліна Греко — старший віце-президент у Commonwealth.

Відкрийте для себе найкращі новини та події у сфері фінтех!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Фінансовий ШІ має ще довгий шлях — не лише з точки зору швидкості, точності або навіть регулювання, а й у способі здобуття довіри. Особливо від тих, хто традиційно не був першими у черзі, коли впроваджуються нові технології.

У FinTech Weekly ми слідкуємо за роботою Commonwealth**, некомерційної організації, яка зосереджена на створенні фінансової безпеки для домогосподарств з низьким і середнім доходом (LMI). Їхня польова робота, описана у нашому недавньому редакційному матеріалі, виявила чіткий конфлікт: хоча користувачі з низьким і середнім доходом відкриті до інструментів, таких як чат-боти, вони все ще чекають досвіду, який справді їх обслуговує — а не просто перепакованих функцій, створених для когось іншого.

Цього тижня ми пішли глибше.

Ми поспілкувалися з Паулою Греко, старшим віце-президентом Commonwealth, щоб зрозуміти, що насправді потрібно для того, щоб зробити ШІ ефективним — і безпечним — для недообслуговуваних спільнот. Від принципів дизайну до здобутої довіри, від співпілотів до втоми від чат-ботів, вона ділиться, чому намір важливіший за інновації самі по собі.

Це обґрунтований і продуманий погляд на те, яким може — і повинен — бути інклюзивний фінансовий технологічний простір.

Повну інтерв’ю читайте нижче.

2.  Остання співпраця Commonwealth із JPMorganChase дала ключові уявлення про роль ШІ у покращенні фінансової безпеки для домогосподарств з низьким і середнім доходом. Які були найбільш несподівані або впливові висновки цього дослідження?

Наше дослідження висвітлює величезний потенціал ШІ, зокрема чат-ботів, для надання персоналізованих порад і підтримки спільнотам з низьким доходом — якщо чат-боти розроблені продумано з урахуванням потреб і перспектив цієї групи.

Два ключові висновки:

*   Клієнти здебільшого сприймають чат-боти як позитивні інструменти для покращення їхнього фінансового стану. Наші дані показали, що 57% респондентів заявили, що використання чат-ботів покращило їхню фінансову ситуацію. Дослідження також показало, що люди з низьким і середнім доходом (LMI) прагнуть функцій для побудови кредитної історії, бюджету та управління боргами.

*   Респонденти цінували беззмагальний простір із чат-ботом для запитань щодо чутливих фінансових питань без страху сорому або самосвідомості, які можуть супроводжувати цю ж розмову з людиною.

3.  Як ви бачите розвиток розмовного ШІ у сфері фінансових послуг, особливо для недообслуговуваних спільнот?

Ідеально, наступне покоління чат-ботів, підтримуване генеративним ШІ, стане фінансовими асистентами, які краще підтримують фінансову діяльність цих домогосподарств і здобувають довіру тих, хто часто насторожено ставиться до взаємодії з фінансовою системою та обміну даними онлайн. Є велика можливість для фінансових провайдерів запропонувати більш складні, нюансовані та орієнтовані на дії функції для своїх чат-ботів.

Коли клієнти зараз використовують фінансові чат-боти, вони здебільшого шукають інформацію про рахунки або намагаються вирішити проблему. Менше 20% наших учасників національного опитування використовували чат-боти для фінансових порад і освіти, рекомендацій продуктів, подачі заявок на кредит або позики, відкриття або закриття рахунків. Однак наше дослідження показує, що існує попит на чат-боти, які можуть допомагати з цими видами банківських дій. Орієнтація на такі функції при розробці чат-ботів може збільшити їх використання та корисність серед цих клієнтів.

Для банків і фінансових установ, які ще не готові запускати генеративних фінансових співпілотів безпосередньо для споживачів, ця технологія може підтримувати співробітників банку, таких як представники служби підтримки, щоб забезпечити кращі, точніші та швидші відповіді клієнтам під час взаємодії.

4.  Які найбільші виклики у забезпеченні справедливості та ефективності фінансових інструментів на основі ШІ для чорних, латинських та жінок-очолених домогосподарств?

З усіма новими технологіями потрібно свідомо працювати над тим, щоб потреби тих, хто має низький і середній дохід, були враховані у процесі розробки та прийняття рішень. Ми виявили, що приватно-філантропічне партнерство з фінансовими установами на ранніх етапах допомагає створити імпульс для цих зусиль. Створюючи базу доказів, ми також допомагаємо формувати бізнес-кейс.

Ми бачимо значний потенціал у розробці рекомендацій щодо підвищення здобутої довіри, які можуть дозволити розмовному ШІ підтримувати фінансове здоров’я без значних додаткових витрат.

5.  Згідно з вашим дослідженням, які ключові принципи дизайну мають враховувати фінансові провайдери при інтеграції ШІ для підтримки користувачів з низьким доходом?

Commonwealth створила ресурс — Посібник з фінансового ШІ для добра, — щоб надати практичні рекомендації щодо дизайну фінансовим провайдерам, які обслуговують ЛМІ-населення. Ми розробили ці рекомендації на основі всебічних досліджень із фінансовими установами, постачальниками чат-ботів і людьми, що живуть з низьким доходом.

Посібник структурований навколо чотирьох основних цілей дизайну. Ось кілька прикладів для кожної:

2.  Здобути довіру: Найбільша турбота серед наших респондентів — безпека. Тут фінансові установи можуть підкреслити захист даних через початкові повідомлення про заходи безпеки, які вони застосовують, а також надати користувачам контроль над тим, які дані зберігаються.
4.  Заохочувати залучення: Створіть досвід, у якому користувачі розуміють, що ці інструменти можуть для них зробити і коли, забезпечуючи ясність щодо їх функцій. Також прагніть до “інтелектуальної проактивності”. Наприклад, інтегруйте чат-боти, які з’являються у найкорисніший момент, не будучи надто нав’язливими або агресивними, щоб не виглядати спамом.
6.  Збільшити цінність: Передбачайте потреби вашого клієнта. Обмежений доступ до фізичних відділень створює можливість для чат-ботів виконувати дрібні дії, на які раніше потрібно було йти у банк. Балансуйте автоматизацію та контроль, дозволяючи користувачам вмикати або вимикати автоматичні фінансові функції, а також включайте “захисні мережі”, які зупиняють автоматичний рух грошей, якщо баланс падає нижче певного порогу.
8.  Покращити доступність: Забезпечте багатомовну підтримку та рекомендації, відповідні вашій клієнтській базі, і зосередьтеся на мобільних функціях. Наші дослідження показали, що понад половина респондентів віддає перевагу доступу до банківських послуг через мобільний телефон.

6.  Чи можете ви поділитися історіями успіху або кейсами, де розмовний ШІ значно покращив фінансове благополуччя людей з низьким доходом?

Ми знаємо, що 57% учасників нашого польового дослідження зазначили, що використання фінансового чат-бота позитивно вплинуло на їхній фінансовий стан. Хоча ці ранні результати обнадійливі, генеративні інструменти ШІ ще перебувають у зародковому стані, і наше подальше дослідження продовжить формувати базу доказів їхньої ефективності у покращенні фінансового благополуччя для людей з низьким доходом.

7.  Які ризики або непередбачені наслідки мають враховувати фінансові установи при впровадженні інструментів на основі ШІ?

Важливо, щоб люди з низьким і середнім доходом не були залишені поза увагою. При розробці інструментів важливо розуміти внутрішні можливості та способи обслуговування цієї клієнтської бази.

Існує багато організацій, що спеціалізуються на ризиках і наслідках ШІ, а також на упередженнях і точності великих мовних моделей. Крім того, ми прагнемо вирішити головне питання: релевантність фінансових рекомендацій для індивідуальних фінансових ситуацій користувачів. Фінансові установи можуть підвищити залученість клієнтів і здобути їхню довіру, забезпечуючи точність інформації та реальну прозорість.

ШІ відкриває безпрецедентні можливості для людей з низьким доходом отримати доступ до порад і інструментів, які раніше були недоступні, будь то інвестиційні інструменти або управління особистими фінансами. Ці інструменти можна персоналізувати та адаптувати під унікальні ситуації людей з низьким доходом. Це величезна можливість для фінансових провайдерів розширити свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив інструментів на основі ШІ на фінансову безпеку та добробут користувачів?

Основи фінансового благополуччя: Чи зростає заощадження, зменшується борг, покращуються кредитні рейтинги при використанні цих інструментів?

Ми також можемо опитати користувачів щодо досвіду взаємодії з чат-ботом — чи зросла довіра? Чи з’явився інтерес до продуктів, які допомагають покращити фінансове благополуччя? Чи були зроблені дії після отримання поради?

Банки також можуть проводити A/B тестування серед різних груп споживачів, які взаємодіють із чат-ботами, і тих, хто не взаємодіє, щоб побачити, чи є між ними вимірювані різниці.

9.  Яку роль відіграє людський контроль у впровадженні інструментів на основі ШІ у фінансових послугах і як провайдери можуть знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити здобуту довіру до ШІ — забезпечити доступність людини у потрібний час під час взаємодії. Тут корисним може бути використання співпілотів співробітниками банку, що обслуговують клієнтів. Доступ до живої людини за потреби підвищує довіру та якість досвіду з інструментом ШІ.

Використання розмовного ШІ дозволить представникам служби підтримки краще і швидше обслуговувати складні потреби клієнтів і членів спільноти, при цьому зберігаючи людський аспект у ключові моменти взаємодії, коли потрібен живий агент.

Прозорість також є критичною для формування довіри у будь-якій взаємодії. Наприклад, потрібно знати, чи спілкуєтеся ви з чат-ботом чи з реальним співробітником.

10.  Які найбільш перспективні можливості для ШІ у сфері фінансової інклюзії протягом наступних п’яти років?

Генеративний ШІ — це наступна еволюція розмовного ШІ, що пропонує персоналізовану та контекстуально чутливу взаємодію, яка наближається до людської підтримки більше, ніж структура дерев рішень сучасних фінансових чат-ботів. Початкові застосування генеративного ШІ у фінансах зосереджені переважно на бек-офісних задачах, де є можливість підтримувати агентів служби підтримки клієнтів. Визначення способів масштабної персоналізованої підтримки у фінансовому контексті — ключова можливість для розвитку цієї сфери.

Здобута довіра буде особливо важливою для ширшого впровадження генеративного ШІ, оскільки учасники наших польових тестів і фокус-груп залишаються більш скептичними щодо нього, ніж щодо традиційних чат-ботів. Проте потенційні переваги — забезпечення більш просунутого рівня підтримки у фінансових сервісах — роблять генеративний ШІ найцікавішою технологією для спостереження у фінансовому секторі. Ті, хто зможуть розробити надійний і довірений генеративний ШІ, опиняться на передовій цієї нової ери масштабних взаємин із клієнтами.

Ще однією конкретною можливістю є співпілоти та особисті асистенти, які можуть надавати всебічні фінансові поради, адаптовані до індивідуальних потреб, — так званий особистий фінансовий тренер. Також очікуємо, що прогрес у розмовному ШІ відіграє цінну роль у просуванні фінансового здоров’я працівників, надаючи інформацію та рекомендації для орієнтації у складних системах корпоративних пільг.

11.  Як ви бачите роль некомерційних організацій, таких як Commonwealth, у формуванні відповідального використання ШІ у фінансових послугах?

Історично дизайн нових технологій зосереджувався на впровадженні для споживачів із високим доходом, ігноруючи потреби домогосподарств з низьким доходом. Через нашу ініціативу Emerging Tech for All (ETA) ми прагнемо переконатися, що потреби фінансово вразливих людей зрозумілі, помітні, включені у відповідні дискусії та інтегровані у рішення. Ми перебуваємо на критичному переломному етапі масштабування ШІ і вважаємо, що терміново потрібно продовжувати дослідження і визначати способи, якими ШІ може позитивно впливати на цю групу.

Зараз у цій галузі мало досліджень і впроваджень, і деякі провайдери, з якими ми спілкувалися, наголошували на необхідності масштабних досліджень для створення доказової бази, яку можна використовувати для внутрішнього обґрунтування такого дизайну. Ми відповідаємо цій виклику, створюючи впливові дослідження і польові випробування, що демонструють, як генеративний ШІ може підтримувати фінансове благополуччя домогосподарств з низьким доходом і формувати бізнес-кейс для більш активного проектування для цієї недооцінених сегментів.

У майбутньому системний вплив інклюзивного технологічного дизайну залежатиме від масштабного застосування цих ідей великими гравцями у фінансовій сфері. Для нас масштабування інклюзивного дизайну залежатиме від використання наших досліджень у партнерстві з великими організаціями, які прагнуть використати досягнення ШІ для підтримки фінансового здоров’я своїх клієнтів і працівників.

12.  Які поради ви дали б фінансовим установам, що прагнуть використовувати ШІ, зберігаючи довіру і прозорість із клієнтами?

ЛМІ-споживачі більше зацікавлені у безпосередніх банківських послугах з людиною, але мають найменший доступ до фізичних відділень. Цей розрив підкреслює ключову можливість для ШІ — надавати персоналізовану підтримку, яку шукають домогосподарства з низьким доходом, без необхідності збільшення кількості відділень або співробітників служби підтримки.

Однак для ширшого впровадження фінансові установи мають здобути і зміцнити довіру до чат-ботів серед людей з низьким доходом — частково через досвід із чат-ботами, частково через загальне визнання і покращення технології ШІ у галузі, її безпеки та якості.

Найбільші побоювання користувачів — безпека і конфіденційність. Загалом, люди висловлюють недовіру до розмовного ШІ щодо його корисності, захисту даних або дій у їхніх інтересах. Хоча багато у бізнес-середовищі захоплюються потенціалом ШІ, люди з низьким доходом, ймовірно, ставляться до нього з більшою скептичністю, вважаючи його новою технологією, яка ще має довести свою цінність для них безпосередньо.

Прозорі політики щодо даних, заспокійливий брендинг і повідомлення, а також збереження зв’язку з людським агентом як резервною опцією — все це сприятиме формуванню і здобуттю довіри. Розробка корисних і персоналізованих взаємодій за допомогою генеративного ШІ, що виходять за межі базової інформації, яку сьогодні надають чат-боти (баланси рахунків, останні транзакції), також допоможе продемонструвати цінність цієї технології.

Важливо також підкреслити концепцію здобутої довіри. Мета — не просто переконати людей довіряти чат-ботам, а створити таку їхню конструкцію, щоб ця довіра була виправданою.