ШІ, довіра та недопредставлені — інтерв’ю з Паулою Грьєко, старшою віцепрезиденткою Commonwealth

Паула Греко — старша віцепрезидентка в Commonwealth.

Відкрийте для себе найкращі новини та події в fintech!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інші

Фінансовому ШІ ще є куди розвиватися — не лише з огляду на швидкість, точність чи навіть регулювання, а й у тому, як він здобуває довіру. Особливо від тих, хто традиційно не був у перших рядах, коли виходить нова технологія.

У FinTech Weekly ми стежимо за роботою Commonwealth — некомерційної організації, яка зосереджується на побудові фінансової безпеки для домогосподарств із низькими та середніми доходами (LMI). Їхні польові дослідження, розглянуті в нашій нещодавній редакційній публікації, виявили чітку суперечність: хоча користувачі з LMI відкриті до інструментів на кшталт чатботів, вони все ще чекають на досвід, який справді служитиме їм — а не на перероблені функції, створені для когось іншого.

Цього тижня ми заглибилися глибше.

Ми поспілкувалися з Паула Греко, старшою віцепрезиденткою в Commonwealth, щоб зрозуміти, що насправді потрібно, аби ШІ був ефективним — і безпечним — для недостатньо охоплених спільнот. Від принципів дизайну до здобутої довіри, від ко-пілотів до втоми від чатботів — вона пояснює, чому важлива саме цілеспрямованість, а не інновації самі по собі.

Це приземлений і продуманий погляд на те, як — і як саме — має виглядати інклюзивна фінансова технологія.

Читайте повне інтерв’ю нижче.

2.  Нещодавня співпраця Commonwealth із JPMorganChase дала ключові уявлення про роль ШІ в покращенні фінансової безпеки для домогосподарств із LMI. Які з висновків цього дослідження були найочікуванішими або найбільш вражаючими?

Наше дослідження висвітлює колосальний потенціал ШІ, зокрема чатботів, надавати персоналізовані поради та підтримку спільнотам, які живуть на нижчих доходах —  якщо чатботи розроблені продумано, з урахуванням потреб і поглядів цієї групи.

Два ключові висновки:

*   Клієнти здебільшого бачать чатботів як позитивні інструменти для покращення свого фінансового добробуту. Наші дані показали, що 57% респондентів сказали: використання чатботів покращило їхню фінансову ситуацію. Дослідження також показало, що люди з низькими та середніми доходами (LMI) хочуть функцій для нарощування кредитної історії, бюджетування та управління боргами.

*   Респонденти цінували простір без осуду з чатботом для запитань про делікатні фінансові теми без необхідності турбуватися про сором чи ніяковість, які могли б супроводжувати таку саму розмову наживо — під час спілкування обличчям до обличчя з представником-людиною.

3.  Як ви бачите еволюцію розмовного ШІ в секторі фінансових послуг, зокрема для недостатньо охоплених спільнот?

Ідеально, наступне покоління чатботів, підживлених генеративним ШІ, стане фінансовими AI-асистентами, які краще підтримуватимуть фінансові активності цих домогосподарств і здобуватимуть довіру в аудиторії, яка часто насторожено ставиться до взаємодії з фінансовою системою та до поширення даних онлайн. Є велика можливість для постачальників фінансових послуг надавати своїм чатботам більш складні, нюансовані та орієнтовані на дії можливості.

Коли клієнти зараз використовують фінансові чатботи, вони переважно шукають інформацію про рахунки або намагаються розв’язати проблему. Менше ніж 20% респондентів нашого національного опитування користувалися чатботами для фінансових порад і навчання, рекомендацій щодо продуктів, подання заяв на кредит або позики, а також для відкриття чи закриття рахунків. Водночас наше дослідження показує, що існує попит на чатботи, які можуть допомагати з такими типами банківських дій. Зосередження на цих типах функцій під час розробки чатботів може підвищити їхнє використання й корисність для цих клієнтів.

Для банків та фінансових установ, які не готові одразу запускати генеративні AI-ко-пілоти напряму для споживачів, ця технологія може підтримувати банківських працівників — наприклад, представників клієнтського сервісу — щоб надавати клієнтам під час взаємодій кращі, точніші та своєчасніші відповіді.

4.  Які найбільші виклики постають у забезпеченні рівності та ефективності AI-орієнтованих фінансових інструментів для домогосподарств, очолюваних людьми Black, Latinx, а також жінками?

З будь-якими новими технологіями потрібні цілеспрямовані зусилля, щоб потреби тих, хто заробляє низькі та середні доходи, були включені в процес розробки й дизайнерські рішення. Ми виявили, що приватно/філантропічне партнерство з фінансовими установами на ранньому етапі допомагає створити імпульс для цих зусиль. Нарощуючи доказову базу, ми також допомагаємо сформувати діловий аргумент.

Ми бачимо значний потенціал дизайнерських підказок щодо речей на кшталт підвищення здобутої довіри, які можуть дозволити розмовному AI підтримувати фінансове здоров’я без суттєвого зростання витрат.

5.  Спираючись на ваше дослідження, які ключові принципи дизайну мають розглядати постачальники фінансових послуг, коли інтегрують AI для підтримки користувачів із LMI?

Commonwealth створила ресурс — Financial AI for Good Guide, щоб надавати практичні дизайнерські рекомендації постачальникам фінансових послуг, які працюють із аудиторіями з LMI. Ми розробили ці рекомендації на основі ґрунтовного дослідження з фінансовими установами, постачальниками чатботів та людьми, які живуть на LMI.

Посібник організований навколо чотирьох основних цілей дизайну. Я наведу приклад або два для кожної:

2.  Здобута довіра: Головна проблема серед більшості респондентів нашого дослідження під час використання чатбота була безпека. Саме тут фінансові установи можуть підкреслити безпеку даних через повідомлення на старті про те, які заходи вживає банк, а також надати користувачам контроль над тим, які дані зберігатимуться.
4.  Стимулювати залученість: Зробіть так, щоб користувачі розуміли, що саме ці інструменти можуть для них, і коли — створивши прозорість щодо їхніх функцій. Також прагніть до «інтелектуальної проактивності». Наприклад, інтегруйте чатботи, які з’являються, коли вони можуть бути найбільш корисними, але без надмірної нав’язливості чи агресивності, що може виглядати як спам.
6.  Підвищувати цінність: Передбачайте потреби вашого клієнта. Обмежений доступ до фізичних відділень створює можливість для чатботів виконувати невеликі дії, для яких клієнтам раніше доводилося йти до банку. Збалансуйте автоматизацію та контроль, дозволивши користувачам вмикати й вимикати автоматизовані фінансові функції, а також додайте «запобіжну сітку», яка призупиняє автоматизоване переміщення грошей, якщо баланс опускається нижче певного порогу.
8.  Покращувати доступність: Пропонуйте багатомовну підтримку та настанови, узгоджені з вашою клієнтською базою, і робіть акцент на функціях, зручних для мобільних пристроїв. Наше дослідження показало, що понад половина всіх респондентів віддавали перевагу доступу до свого банкінгу через мобільні телефони.

6.  Чи можете ви поділитися будь-якими історіями успіху або кейсами, де розмовний AI суттєво покращив фінансовий добробут для людей із LMI?

Що ми знаємо: 57% користувачів у нашому польовому дослідженні на вивченні тестової взаємодії повідомили, що використання фінансового чатбота мало позитивний вплив на їхню фінансову ситуацію. Хоча ці ранні результати обнадійливі, інструменти генеративного ШІ все ще перебувають на ранній стадії, і наше подальше дослідження продовжуватиме формувати доказову базу щодо їхньої ефективності в покращенні фінансового добробуту людей із LMI.

7.  Які ризики або небажані наслідки мають враховувати фінансові установи під час упровадження AI-орієнтованих фінансових інструментів?

Важливо, щоб людей із LMI не лишали поза рівнянням. Коли фінансові установи розробляють інструменти, важливо, щоб вони розуміли притаманні можливості та способи обслуговування клієнтської бази з LMI.

Існує багато організацій, які спеціально фокусуються на притаманних ризиках і наслідках AI-орієнтованих інструментів, а також на упередженості та точності великих мовних моделей. Окрім цього, ми хочемо переконатися, що вирішується першочергова проблема: релевантність фінансових рекомендацій для індивідуальних фінансових ситуацій користувачів. Фінансові установи можуть підвищувати залученість клієнтів і здобувати довіру, забезпечуючи, що надана інформація є точною, а також що існує реальна прозорість.

AI відкриває безпрецедентну можливість для людей із LMI отримувати поради та інструменти, які раніше були недоступні для них, будь то інструменти для інвестування або персональне управління особистими фінансами. Ці інструменти можна персоналізувати й налаштовувати під людей із LMI та їхні унікальні обставини. Це величезна можливість для фінансових провайдерів розширювати свою клієнтську базу.

8.  Як фінансові установи можуть виміряти реальний вплив AI-орієнтованих інструментів на фінансову безпеку та добробут користувачів?

Основи фінансового благополуччя:  Чи зростають заощадження, чи зменшується борг, чи покращуються кредитні бали під час використання цих інструментів?

Ми можемо також опитувати щодо досвіду взаємодії з чатботом — чи зросла довіра? Чи з’явився більший інтерес до продуктів, які можуть допомогти покращити фінансовий добробут? Коли йшлося про надання порад, чи були вчинені дії після отримання рекомендацій?

Банки також можуть проводити A/B-тестування серед різних груп споживачів, які взаємодіють із чатботами, порівняно з тими, хто цього не робить, щоб побачити, чи є вимірювана різниця між ними.

9.  Яку роль відіграє людський нагляд під час розгортання AI-інструментів у фінансових сервісах, і як провайдерам знайти правильний баланс між автоматизацією та людською підтримкою?

Один із способів підвищити здобуту довіру навколо AI — переконатися, що поруч є людина, доступна у правильні моменти під час взаємодії.  Саме тут використання ко-пілотів співробітниками банків, які працюють із клієнтами, може бути корисним. Доступ до живої людини, коли це потрібно, підвищує довіру та якість досвіду від використання AI-інструменту.

Використання розмовного AI дозволить представникам служби підтримки клієнтів краще й швидше обслуговувати складні потреби своїх клієнтів і членів, одночасно надаючи людський підхід у ключових точках взаємодії, коли потрібен живий агент.

Прозорість також критично важлива, щоб будувати довіру в будь-якій взаємодії. Вам, наприклад, має бути зрозуміло, чи ви спілкуєтеся з чатботом, чи з реальною людиною.

10.  Зазирнувши вперед, які найбільш захопливі можливості для AI у фінансовій інклюзії з’являються протягом найближчих п’яти років?

Генеративний AI — це наступна еволюція підтримки розмовного AI, яка забезпечує персоналізовану та контекстно-чутливу взаємодію на рівні, що значно ближче імітує людську підтримку, ніж структура «дерева рішень» більшості фінансових чатботів сьогодні. Перші застосування генеративного AI в фінансах були зосереджені переважно на бек-офісних задачах, де є можливість підтримувати агентів служби підтримки клієнтів. Визначення того, як генеративний AI може надавати персоналізовану підтримку в масштабі в фінансовому контексті, є ключовою можливістю для розвитку в цьому секторі.

Побудова здобутої довіри буде особливо критичною для ширшого впровадження генеративного AI, адже учасники наших польових тестів і фокус-груп залишаються більш скептичними, ніж щодо традиційних чатботів. Утім, потенційні вигоди від надання більш просунутого рівня підтримки в різних додатках фінансових сервісів роблять генеративний AI найбільш захопливою технологією, за якою варто спостерігати в фінансовому секторі. Ті, хто зможе розробити довірений і надійний генеративний AI для підтримки, перебуватимуть на передовій цього нового етапу побудови відносин із клієнтами в масштабі.

Деякі інші конкретні можливості, які ми бачимо, — це ко-пілоти та персональні помічники, здатні надавати комплексні фінансові рекомендації, адаптовані до індивідуальних потреб, тобто персональний фінансовий коуч. Ми також очікуємо, що вдосконалення розмовного AI відіграватиме цінну роль у просуванні фінансового здоров’я працівників, надаючи інформацію та поради, щоб орієнтуватися в складних системах пільг для працівників.

11.  Як ви бачите роль некомерційних організацій на кшталт Commonwealth у формуванні відповідального використання AI в фінансових сервісах?

Історично дизайн нових технологій був сфокусований на впровадженні споживачами з вищими доходами, тоді як потреби домогосподарств із LMI ігнорувалися. Завдяки нашій ініціативі Emerging Tech for All (ETA) ми зосереджуємося на тому, щоб потреби фінансово вразливих людей були зрозумілими, видимими, представленими в релевантних розмовах і інтегрованими в рішення. Ми знаходимося на критичному переломному етапі масштабування AI і вважаємо, що нагально потрібно продовжувати досліджувати й визначати способи, як AI може позитивно впливати на цю групу населення.

Сьогодні в цій сфері існує відносно мало досліджень і впровадження на місцях, а деякі провайдери, з якими ми спілкувалися, називали необхідність масштабніших досліджень, щоб створити той тип доказової бази, яку можна використати, аби обґрунтувати такі дизайнерські підходи всередині організацій. Ми беремося за цей виклик, створюючи змістовні дослідження та польові тести на місцях, які демонструють, як генеративний AI може підтримувати фінансове благополуччя домогосподарств, що живуть на LMI, і підкріплює бізнес-аргумент на користь більш активного проєктування саме для цієї недостатньо охопленої категорії споживачів.

Поглядаючи в майбутнє, системний вплив інклюзивного дизайну технологій залежатиме від масштабного застосування цих інсайтів ключовими гравцями у фінансових сервісах. Для нас переведення інклюзивного дизайну в масштаб залежатиме від використання наших досліджень для партнерства з більшими організаціями, які прагнуть використати досягнення в AI, щоб підтримувати фінансове здоров’я своїх клієнтів і працівників.

12.  Яку пораду ви б дали фінансовим установам, які прагнуть використовувати AI, зберігаючи довіру та прозорість щодо своїх клієнтів?

Домогосподарства з LMI більше зацікавлені в банкінгу безпосередньо з людиною, але мають найменший доступ до офлайн-відділень. Цей розрив підкреслює ключову можливість для AI надавати той тип персоналізованої підтримки, який шукають домогосподарства з LMI, без необхідності збільшувати кількість відділень або персоналу підтримки клієнтів.

Втім, щоб сприяти ширшому впровадженню, фінансові установи мають здобувати й нарощувати довіру до чатботів з боку людей, які отримують LMI, — частково це стосується конкретно досвіду з чатботом, а частково є галузевою проблемою, оскільки технологія AI отримує більше прийняття й покращує загальну безпеку та якість.

Найбільші побоювання для людей, які взаємодіють із чатботами, — це безпека та конфіденційність.  Загалом люди висловлювали брак довіри до розмовного AI в тому, що він буде корисним, захищатиме їхні дані або діяти в їхніх інтересах. Хоча багато хто у діловому світі захоплений потенціалом AI, люди, які живуть на LMI, ймовірно, ставляться до нього більш скептично, як до нової технології, яка ще не продемонструвала напряму свою цінність для них.

Прозорі політики щодо даних, підтримувальна бренд-комунікація та повідомлення, а також збереження зв’язку з агентом-людиною як варіантом на випадок потреби — усе це допоможе будувати й здобувати довіру. Розробка корисних і персоналізованих взаємодій за допомогою генеративного AI, які виходять за межі надання базової інформації, що пропонують чатботи сьогодні, наприклад, баланси рахунків і нещодавні транзакції, також допоможе продемонструвати цінність технології.

Також важливо підкреслити концепцію здобутої довіри. Ціль — не лише переконати людей довіряти чатботам, а реально спроєктувати чатботи так, щоб ця довіра була обґрунтованою.