Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паула Греко — старший вице-президент в Commonwealth.

Откройте для себя лучшие новости и мероприятия в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и других

Финансовому ИИ предстоит пройти долгий путь — не только с точки зрения скорости, точности или даже регулирования, но и в том, как он заслуживает доверие. Особенно со стороны тех, кто традиционно не был в первых рядах, когда появляется новая технология.

В FinTech Weekly мы следим за работой Commonwealth — некоммерческой организации, сосредоточенной на создании финансовой безопасности для домохозяйств с низким и умеренным доходом (LMI). Их полевые исследования, описанные в нашем недавнем редакционном материале, выявили явное противоречие: хотя пользователи с LMI открыты к таким инструментам, как чатботы, они всё ещё ждут опыта, который действительно им помогает — а не просто переформатированных функций, сделанных для кого-то другого.

На этой неделе мы копнули глубже.

Мы поговорили с Палой Греко (Paula Grieco), старшим вице-президентом в Commonwealth, чтобы понять, что на самом деле нужно, чтобы ИИ был эффективным — и безопасным — для недостаточно обслуживаемых сообществ. От принципов дизайна и заслуженного доверия, от ко-пилотов до усталости от чатботов — она объясняет, почему важнее ставить цель, а не полагаться только на инновации.

Это приземлённый и вдумчивый взгляд на то, как — и каким образом — должен выглядеть инклюзивный финтех.

Читайте полное интервью ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало ключевые выводы о роли ИИ в повышении финансовой безопасности домохозяйств с LMI. Какие из результатов этого исследования были самыми неожиданными или наиболее значимыми?

Наше исследование раскрывает огромный потенциал ИИ, в частности чатботов, чтобы предоставлять персонализированные рекомендации и поддержку сообществам, живущим на более низкие доходы —  если чатботы продуманно спроектированы с учётом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в целом рассматривают чатботов как позитивные инструменты для улучшения их финансового благополучия. Наши данные показали, что 57% респондентов заявили, что использование чатботов улучшило их финансовое положение. Исследование также показало, что люди с низким и умеренным доходом (LMI) хотят функциональность для формирования кредитной истории, бюджетирования и управления долгами.

*   Респонденты ценили пространство без осуждения с чатботом для того, чтобы задавать деликатные финансовые вопросы, не беспокоясь о стыде или неловкости, которые могут сопровождать тот же разговор, происходящий лицом к лицу с человеческим представителем.

3.  Как вы видите эволюцию разговорного ИИ в сфере финансовых услуг, особенно для недостаточно обслуживаемых сообществ?

В идеале следующее поколение чатботов, питаемых генеративным ИИ, станет ИИ-финансовыми помощниками, которые лучше поддерживают финансовые активности этих домохозяйств и заслуживают доверие у тех слоёв населения, которые часто настороженно относятся к взаимодействию с финансовой системой и к обмену данными в интернете. У поставщиков финансовых услуг есть крупная возможность предоставлять более сложные, взвешенные и ориентированные на действия функции для их чатботов.

Когда клиенты используют финансовых чатботов сейчас, они в основном ищут информацию по счетам или пытаются решить проблему. Менее 20% участников нашего национального опроса использовали чатботов для финансовых советов и обучения, рекомендаций по продуктам, подачи заявок на кредит или займы, а также для открытия или закрытия счетов. Однако наше исследование показывает, что есть спрос на чатботов, которые могут помогать с подобными типами банковских операций. Акцент на этих типах функций при разработке чатботов может повысить их использование и полезность среди этих клиентов.

Для банков и финансовых организаций, которые пока не готовы напрямую выпускать потребителям генеративных ИИ-ко-пилотов, эта технология может поддерживать сотрудников банка, например представителей клиентов, чтобы давать более качественные, точные и своевременные ответы клиентам во время взаимодействий.

4.  С какими самыми большими вызовами сталкиваются те, кто стремится обеспечить справедливость и эффективность ИИ-ориентированных финансовых инструментов для домохозяйств, возглавляемых представителями Black, Latinx и женщин?

Со всеми появляющимися технологиями необходима целенаправленная работа, чтобы потребности тех, кто зарабатывает низкий или умеренный доход, были включены в процесс разработки и в дизайнерские решения. Мы обнаружили, что частное/благотворительное партнёрство с финансовыми институтами на раннем этапе помогает создать импульс для этих усилий. Расширяя доказательную базу, мы также укрепляем аргументы для бизнеса.

Мы видели значительный потенциал для методических рекомендаций по дизайну, например для повышения заслуженного доверия — это может позволить разговорному ИИ поддерживать финансовое здоровье без существенного роста затрат.

5.  Опираясь на ваше исследование, какие ключевые принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с LMI?

Commonwealth создала ресурс Financial AI for Good Guide, чтобы предоставить практические рекомендации по дизайну поставщикам финансовых услуг, которые обслуживают аудиторию с LMI. Мы разработали эти рекомендации на основе комплексного исследования с финансовыми институтами, провайдерами чатботов и людьми, живущими на LMI.

Руководство организовано вокруг четырёх основных целей дизайна. Я приведу по одному примеру или два для каждой:

2.  Заслужить доверие: Главная обеспокоенность у большинства наших респондентов при использовании чатбота — безопасность. Именно здесь финансовые институты могут подчеркнуть безопасность данных через заранее понятные сообщения о мерах, которые банк предпринимает, а также дать пользователям контроль над тем, какие данные сохраняются.
4.  Повышать вовлечённость: Постройте опыт так, чтобы пользователи понимали, что эти инструменты могут делать для них и когда. Для этого проясните их функции. Также добивайтесь «интеллектуальной проактивности». Например, интегрируйте чатботов, которые всплывают тогда, когда они могут быть наиболее полезны, но при этом не бывают чрезмерно навязчивыми или агрессивными — то есть не выглядят как спам.
6.  Увеличивать ценность: Предвосхищайте потребности вашего клиента. Ограниченный доступ к физическим отделениям создаёт возможность для чатботов выполнять небольшие действия, которые клиентам иначе пришлось бы идти в банк. Комбинируйте автоматизацию и контроль: разрешите пользователям включать и выключать автоматизированные функции в финансах, а также добавьте «страховочные сетки» (safety net), которые приостанавливают автоматизированное перемещение денег, если баланс опускается ниже определённого порога.
8.  Повышать доступность: Предлагайте многоязычную поддержку и руководство, соответствующее вашей клиентской базе, и делайте упор на функции, удобные для мобильных устройств. Наше исследование показало, что более половины всех респондентов предпочитали получать доступ к банковским услугам через мобильные телефоны.

6.  Можете рассказать о каких-либо историях успеха или кейсах, где разговорный ИИ существенно улучшил финансовое благополучие людей с LMI?

Мы знаем, что 57% пользователей в нашем пилотном исследовании сообщили, что использование финансового чатбота оказало позитивное влияние на их финансовое положение. Хотя эти ранние результаты обнадёживают, инструменты генеративного ИИ всё ещё находятся на ранней стадии, и наше продолжающееся исследование будет и дальше накапливать доказательную базу об их эффективности в улучшении финансового благополучия людей с LMI.

7.  Какие риски или непреднамеренные последствия финансовые институты должны учитывать при внедрении ИИ-ориентированных финансовых инструментов?

Важно, чтобы людей с LMI не оставляли за пределами уравнения. Когда финансовые институты разрабатывают инструменты, важно, чтобы они понимали заложенные в этом возможности и способы обслужить сегмент клиентов с LMI.

Существует множество организаций, сосредоточенных именно на присущих рисках и последствиях ИИ-ориентированных инструментов, а также на смещениях (bias) и точности больших языковых моделей. Кроме того, мы хотим убедиться, что решается ключевая обеспокоенность: релевантность финансовых рекомендаций для индивидуальных финансовых ситуаций пользователей. Финансовые институты могут повысить вовлечённость клиентов и заслужить их доверие, гарантируя, что предоставляемая информация точна, а также обеспечивая реальную прозрачность.

ИИ открывает беспрецедентную возможность для людей с LMI получать советы и инструменты, которые традиционно были недоступны для них, будь то инвестиционные инструменты или управление личными финансами. Эти инструменты можно персонализировать и настраивать под людей с LMI и их уникальные обстоятельства. Это огромная возможность для финансовых провайдеров расширять свою клиентскую базу.

8.  Как финансовые институты могут измерять реальное влияние ИИ-ориентированных инструментов на финансовую безопасность и благополучие пользователей?

Основы финансового благополучия:  происходит ли рост сбережений, снижение долгов, улучшение кредитных рейтингов при использовании этих инструментов?

Мы также можем опрашивать опыт взаимодействия с чатботом — выросло ли доверие? Есть ли повышенный интерес к продуктам, которые могут помочь улучшить финансовое благополучие? Когда речь идёт о рекомендациях — были ли предприняты действия после получения совета?

Банки также могут проводить A/B-тестирование среди разных групп потребителей, которые взаимодействуют с чатботами, и тех, кто не взаимодействует, чтобы увидеть, есть ли измеримая разница между ними.

9.  Какую роль играет человеческий надзор при внедрении ИИ-инструментов для финансовых услуг, и как провайдерам найти правильный баланс между автоматизацией и поддержкой человеком?

Один из способов повысить заслуженное доверие к ИИ — убедиться, что в нужные моменты рядом есть человек, к которому можно получить доступ во время взаимодействия.  Именно здесь использование ко-пилотов сотрудниками банка, которые работают с клиентами, может быть особенно полезным. Доступ к живому человеку, когда это нужно, повышает доверие и качество взаимодействия с инструментом ИИ.

Использование разговорного ИИ позволит представителям службы поддержки клиентов лучше и быстрее обслуживать сложные потребности своих клиентов и членов сообщества, при этом сохраняя человеческое участие в ключевых точках взаимодействия, когда присутствие живого агента желательно.

Прозрачность также критически важна для формирования доверия в любом взаимодействии. Вы должны, например, знать, говорите ли вы с чатботом или с реальным человеком.

10.  Заглядывая вперёд: какие из самых вдохновляющих возможностей для ИИ в финансовой инклюзии в ближайшие пять лет вы видите?

Генеративный ИИ — это следующее развитие поддержки в разговорном ИИ: он обеспечивает персонализированное и чувствительное к контексту взаимодействие на уровне, который гораздо ближе к человеческой поддержке, чем структура «дерева решений» большинства финансовых чатботов сегодня. Первые применения генеративного ИИ в финансах в основном были сосредоточены на бэк-офисных задачах, где есть возможность поддерживать агентов службы поддержки клиентов. Определить, как генеративный ИИ может обеспечивать персонализированную поддержку в масштабе в финансовом контексте, — ключевая возможность для развития этого сектора.

Заслуженное доверие для более широкого внедрения генеративного ИИ будет особенно критично, потому что участники наших полевых тестов и фокус-групп по-прежнему более скептичны к нему, чем к традиционным чатботам. Тем не менее, потенциальные выгоды от предоставления более продвинутого уровня поддержки во всех приложениях финансовых услуг делают генеративный ИИ самой захватывающей технологией, за которой стоит следить в финансовом секторе. Те, кто сможет разработать доверенный и надёжный генеративный ИИ для поддержки, будут находиться на переднем крае этой новой эпохи построения отношений с клиентами в масштабе.

Есть и несколько других конкретных возможностей, которые мы видим: ко-пилоты и персональные помощники, способные предоставлять комплексные финансовые рекомендации, адаптированные под индивидуальные потребности, если говорить точнее — личного финансового коуча. Мы также ожидаем, что развитие разговорного ИИ сыграет ценную роль в поддержке финансового здоровья работников, предоставляя информацию и рекомендации для навигации по сложным системам льгот для сотрудников.

11.  Как вы видите роль некоммерческих организаций вроде Commonwealth в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий был сосредоточен на внедрении среди потребителей с более высокими доходами, при этом игнорировались потребности домохозяйств с LMI. Благодаря нашей инициативе Emerging Tech for All (ETA) мы сфокусированы на том, чтобы потребности финансово уязвимых людей были понятны, видимы, включены в релевантные обсуждения и интегрированы в решения. Сейчас мы находимся в критической точке перелома по масштабированию ИИ, и считаем, что срочно нужно продолжать исследования и определять способы, которыми ИИ может позитивно повлиять на эту группу населения.

Сегодня относительно мало исследований и внедрения в этой области существует, и некоторые из провайдеров, с которыми мы беседовали, называли необходимость более масштабных исследований, чтобы сформировать доказательную базу, которую можно использовать внутри организации, чтобы обосновать такой подход к дизайну. Мы принимаем этот вызов: производим значимые исследования и проводим полевые тесты на местах, демонстрирующие, как генеративный ИИ может поддерживать финансовое благополучие домохозяйств, живущих на LMI, и формировать аргументы для бизнеса в пользу того, чтобы более активно проектировать решения для этого недостаточно обслуживаемого сегмента потребителей.

Смотрим в будущее: системное влияние инклюзивного дизайна технологий будет зависеть от масштабных применений этих инсайтов крупными игроками в финансовых услугах. Для нас перевод инклюзивного дизайна в масштаб будет зависеть от того, насколько мы сможем использовать наше исследование, чтобы партнёриться с более крупными организациями, которые стремятся извлечь выгоду из достижений в ИИ, чтобы поддерживать финансовое здоровье своих клиентов и сотрудников.

12.  Какие советы вы бы дали финансовым институтам, которые хотят использовать ИИ, сохраняя доверие и прозрачность по отношению к своим клиентам?

Домохозяйства с LMI больше заинтересованы в банковском обслуживании напрямую с человеком, но при этом имеют наименьший доступ к очным отделениям. Этот разрыв подчёркивает ключевую возможность для ИИ: предоставлять тот тип персонализированной поддержки, который ищут домохозяйства, живущие на LMI, без необходимости увеличивать число отделений или численность персонала поддержки клиентов.

Однако чтобы обеспечить более широкое внедрение, финансовые институты должны заслужить и нарастить больше доверия к чатботам у людей с LMI — часть этого зависит именно от опыта взаимодействия с чатботом, а часть — от отраслевых факторов, поскольку технология ИИ получает всё большее признание и при этом улучшается общая безопасность и качество.

Главные опасения у людей, взаимодействующих с чатботами, — безопасность и конфиденциальность.  В целом люди выражали недостаток доверия к разговорному ИИ — что он будет полезным, защитит их данные или будет действовать в их лучших интересах. Хотя многие в бизнес-мире воодушевлены потенциалом ИИ, люди, живущие на LMI, скорее воспринимают его с большим скепсисом как новую технологию, которая пока не продемонстрировала им свою прямую ценность.

Прозрачные политики в отношении данных, внушающее уверенность брендинг и формулировки сообщений, а также сохранение возможности связи с человеческим агентом в качестве резервного варианта помогут в создании и заслуживании доверия. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, которые выходят за рамки предоставления базовой информации, которую чатботы предлагают сегодня — например, остатки по счетам и последние операции, — также поможет показать ценность этой технологии.

Также важно подчеркнуть концепцию заслуженного доверия. Цель не просто убедить людей доверять чатботам, но фактически спроектировать чатботы так, чтобы это доверие было оправданным.