Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Пауле Греко — старший вице-президент в Commonwealth.

Откройте для себя лучшие новости и мероприятия в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и других

Финансовому ИИ еще предстоит пройти долгий путь — не только с точки зрения скорости, точности или даже регулирования, но и в том, как он зарабатывает доверие. Особенно у тех, кто традиционно не был первым в очереди, когда появляется новая технология.

В FinTech Weekly мы следили за работой Commonwealth — некоммерческой организации, которая занимается созданием финансовой безопасности для домохозяйств с низким и умеренным доходом (LMI). Их полевые исследования, описанные в нашем недавнем редакционном материале, выявили явное противоречие: хотя пользователи из LMI открыты для таких инструментов, как чатботы, они все еще ждут опыта, который действительно служит им — а не просто переупакованных функций, сделанных для кого-то другого.

На этой неделе мы пошли глубже.

Мы поговорили с Паулой Греко, старшим вице-президентом в Commonwealth, чтобы понять, что на самом деле нужно, чтобы ИИ был эффективным — и безопасным — для недостаточно обслуживаемых сообществ. От принципов дизайна до заслуженного доверия, от ко-пилотов до усталости от чатботов — она объясняет, почему намерение важнее одной только инновации.

Это взвешенный и вдумчивый взгляд на то, как — и как должно — выглядеть инклюзивное финансовое технологическое решение.

Прочитайте полное интервью ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало ключевые выводы о роли ИИ в улучшении финансовой безопасности домохозяйств из LMI. Какие самые удивительные или наиболее значимые результаты дала эта работа?

Наше исследование раскрывает огромный потенциал ИИ, в частности чатботов, в том, чтобы предоставлять персонализированные рекомендации и поддержку сообществам, которые живут на более низкие доходы —  если чатботы продуманы с учетом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в целом воспринимают чатботов как позитивные инструменты для улучшения их финансового благополучия. Наши данные показали: 57% респондентов сказали, что использование чатботов улучшило их финансовое положение. Исследование также показало, что люди с низким и умеренным доходом (LMI) хотят функции для наращивания кредитной истории, составления бюджета и управления долгом.

*   Респонденты ценили пространство без осуждения — возможность задавать с помощью чатбота чувствительные финансовые вопросы, не переживая о стыде или неловкости, которые могут сопровождать тот же разговор, происходящий лицом к лицу с представителем-людьми.

3.  Как вы видите эволюцию диалогового ИИ в сфере финансовых услуг, особенно для недостаточно обслуживаемых сообществ?

В идеале следующее поколение чатботов, подпитываемых генеративным ИИ, станет ИИ-финансовыми помощниками, которые лучше поддерживают финансовые активности этих домохозяйств и заслуживают доверие у групп населения, которые часто настороженно относятся к взаимодействию с финансовой системой и к обмену данными в интернете. Есть большая возможность для поставщиков финансовых услуг предоставлять своим чатботам более сложные, более тонкие и ориентированные на действия возможности.

Когда клиенты используют финансовые чатботы сейчас, они в первую очередь ищут информацию по счетам или пытаются решить проблему. Менее 20% респондентов нашего национального опроса использовали чатботов для финансовых советов и образования, рекомендаций по продуктам, подачи заявок на кредит или займы, а также для открытия или закрытия счетов. Однако наше исследование находит спрос на чатботы, которые могут помогать с такими видами банковских действий. Фокус на таких функциях при разработке чатботов может повысить их использование и полезность для этих клиентов.

Для банков и финансовых организаций, которые еще не готовы напрямую запускать потребителям генеративных ИИ-финансовых ко-пилотов, эта технология может поддерживать сотрудников банка — например, представителей клиентов — чтобы давать более качественные, точные и своевременные ответы клиентам во время взаимодействий.

4.  Каковы некоторые из крупнейших проблем в обеспечении того, чтобы AI-ориентированные финансовые инструменты были справедливыми и эффективными для домохозяйств, возглавляемых чернокожими, латиноамериканцами и женщинами?

Со всеми появляющимися технологиями нужна осознанная работа, чтобы в процесс разработки и в проектные решения включались потребности тех, кто зарабатывает низкий или умеренный доход. Мы обнаружили, что частное/филантропическое партнерство с финансовыми учреждениями на раннем этапе помогает создать импульс для этих усилий. Расширяя доказательную базу, мы также помогаем выстроить бизнес-кейс.

Мы видели существенный потенциал для рекомендаций по дизайну — например, для повышения заслуженного доверия, — которые позволяют диалоговому ИИ поддерживать финансовое здоровье без существенного роста затрат.

5.  Основываясь на вашем исследовании, какие ключевые принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей из LMI?

Commonwealth создала ресурс — Financial AI for Good Guide — чтобы предоставить практические рекомендации по дизайну поставщикам финансовых услуг, которые обслуживают население с LMI. Мы разработали эти рекомендации на основе всестороннего исследования с финансовыми учреждениями, провайдерами чатботов и людьми, которые живут на LMI.

Руководство организовано вокруг четырех основных целей дизайна. Я приведу по одному примеру или два для каждой:

2.  Заработанное доверие: главная обеспокоенность большинства наших респондентов при использовании чатбота — безопасность. Именно здесь финансовые учреждения могут подчеркнуть безопасность данных с помощью заранее подготовленных сообщений о том, какие меры банк принимает, а также дать пользователям контроль над тем, какие данные сохраняются.
4.  Стимулировать вовлеченность: сделайте опыт таким, чтобы пользователи понимали, что именно эти инструменты могут для них, и когда — создавая ясность об их функциях. Также добивайтесь «интеллектуальной проактивности». Например, интегрируйте чатботы, которые всплывают тогда, когда они могут быть наиболее полезны, не будучи слишком навязчивыми или агрессивными — то есть так, чтобы это не воспринималось как спам.
6.  Повышать ценность: предвосхищайте потребности вашего клиента. Ограниченный доступ к физическим отделениям создает возможность для чатботов выполнять небольшие действия, которые клиентам иначе пришлось бы совершать в банке. Сбалансируйте автоматизацию и контроль, позволяя пользователям включать и выключать автоматизированные финансовые функции, а также добавьте «страховочные» функции, которые ставят на паузу автоматизированное движение денег, если баланс опускается ниже определенного порога.
8.  Улучшать доступность: предоставляйте многоязычную поддержку и рекомендации, соответствующие вашей клиентской базе, и делайте акцент на функциях, удобных для мобильных устройств. Наше исследование показало: более половины всех респондентов предпочитали получать доступ к своему банкингу через мобильные телефоны.

6.  Можете поделиться какими-либо историями успеха или кейсами, где диалоговый ИИ существенно улучшил финансовое благополучие людей из LMI?

То, что мы знаем, — это то, что 57% пользователей в нашем исследовании полевого тестирования указали: использование финансового чатбота оказало позитивное влияние на их финансовое положение. Хотя эти ранние результаты многообещающие, инструменты генеративного ИИ все еще находятся на ранних стадиях, и наше продолжающееся исследование будет и дальше формировать доказательную базу об их эффективности в улучшении финансового благополучия людей из LMI.

7.  Какие риски или непреднамеренные последствия должны учитывать финансовые учреждения при внедрении AI-ориентированных финансовых инструментов?

Важно то, что людей с LMI нельзя исключать из уравнения. Когда финансовые учреждения разрабатывают инструменты, важно, чтобы они понимали имеющиеся возможности и способы обслуживать базу клиентов с LMI.

Существует множество организаций, которые специально фокусируются на присущих рисках и последствиях AI-ориентированных инструментов, а также на предвзятости и точности больших языковых моделей. Помимо этого, мы хотим убедиться, что решается ключевая проблема: релевантность финансовых рекомендаций для индивидуальных финансовых ситуаций пользователей. Финансовые учреждения могут повысить вовлеченность клиентов и заслужить их доверие, обеспечивая, чтобы предоставляемая информация была точной, а также чтобы существовала реальная прозрачность.

ИИ открывает беспрецедентную возможность для людей с LMI получать советы и инструменты, которые раньше им были недоступны, будь то инвестиционные инструменты или управление личными финансами. Эти инструменты можно персонализировать и адаптировать под людей с LMI и их уникальные обстоятельства. Это огромная возможность для финансовых провайдеров расширять свою клиентскую базу.

8.  Как финансовые учреждения могут измерить реальное влияние AI-ориентированных инструментов на финансовую безопасность и благополучие пользователей?

Базовые ориентиры финансового благополучия:  есть ли рост сбережений, снижение долгов, улучшение кредитных рейтингов при использовании этих инструментов?

Мы также можем опрашивать опыт взаимодействия с чатботом — увеличилось ли доверие? Появился ли больший интерес к продуктам, которые могли бы помочь улучшить финансовое благополучие? Когда дело доходит до советов, были ли предприняты действия после получения рекомендаций?

Банки также могут проводить A/B-тестирование среди разных групп потребителей, которые взаимодействуют с чатботами, и тех, кто не взаимодействует, чтобы увидеть, есть ли измеримая разница между ними.

9.  Какую роль играет человеческий надзор при внедрении AI-инструментов для финансовых услуг, и как провайдерам найти правильный баланс между автоматизацией и поддержкой человеком?

Один из способов повысить заслуженное доверие к ИИ — убедиться, что в нужные моменты во время взаимодействия доступен человек.  Именно здесь использование ко-пилотов сотрудниками банка, работающими с клиентами, может быть полезным. Доступ к живому человеку при необходимости повышает доверие и общее впечатление от работы с AI-инструментом.

Использование диалогового ИИ позволит представителям службы поддержки лучше и быстрее обслуживать сложные потребности клиентов и членов сообществ, одновременно обеспечивая человеческое участие в ключевых точках взаимодействия, когда присутствие живого агента желательно.

Прозрачность также критически важна для формирования доверия в любом взаимодействии. Вы должны, например, знать, говорите ли вы с чатботом или с реальным человеком.

10.  Если заглянуть вперед, какие самые перспективные возможности для ИИ в финансовой инклюзии в ближайшие пять лет?

Генеративный ИИ представляет собой следующее развитие поддержки в диалоговом ИИ — с персонализированным и контекстно-чувствительным взаимодействием на уровне, который гораздо ближе имитирует поддержку человеком, чем структура дерева решений большинства финансовых чатботов сегодня. Первые приложения генеративного ИИ в финансах в основном сосредоточены на бэк-офисных задачах, где есть возможность поддержать агентов клиентского сервиса. Понять, как генеративный ИИ может предоставлять персонализированную поддержку в масштабе в финансовом контексте, — это ключевая возможность для развития в этом секторе.

Заработанное доверие особенно критично для более широкого внедрения генеративного ИИ: участники наших полевых тестов и фокус-групп остаются более скептичны к нему, чем к традиционным чатботам. Тем не менее, потенциальные выгоды от предоставления более продвинутого уровня поддержки во всех применениях финансовых услуг делают генеративный ИИ самой захватывающей технологией, за которой стоит следить в финансовом секторе. Те, кто сможет разработать надежную и заслуживающую доверия поддержку на базе генеративного ИИ, будут на переднем крае новой эпохи формирования отношений с клиентами в масштабе.

Еще некоторые конкретные возможности, которые мы видим: ко-пилоты и персональные помощники, которые могут предоставлять всеобъемлющее финансовое руководство, адаптированное под индивидуальные потребности, — если хотите, личный финансовый коуч. Мы также ожидаем, что развитие диалогового ИИ сыграет ценную роль в укреплении финансового здоровья работников — предоставляя информацию и рекомендации для навигации по сложным системам льгот для сотрудников.

11.  Как вы видите роль некоммерческих организаций вроде Commonwealth в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий был ориентирован на внедрение более обеспеченными потребителями, при этом потребности домохозяйств с LMI оставались вне поля зрения. Через инициативу Emerging Tech for All (ETA) мы фокусируемся на том, чтобы потребности финансово уязвимых людей были поняты, были видны, включались в релевантные обсуждения и встраивались в решения. Мы находимся на критической точке перегиба в масштабировании ИИ и считаем, что крайне важно продолжать исследования и выявлять способы, которыми ИИ может позитивно повлиять на это население.

Сегодня по этой теме существует относительно мало исследований и внедрений, и некоторые провайдеры, с которыми мы разговаривали, указывали на необходимость более масштабных исследований, чтобы сформировать тот вид доказательств, на основании которых можно было бы аргументировать такую внутреннюю разработку. Мы принимаем этот вызов, создавая значимые исследования и полевые тесты на местах, которые демонстрируют, как генеративный ИИ может поддерживать финансовое благополучие домохозяйств, живущих на LMI, и как это обосновать с точки зрения бизнеса — за счет более активного проектирования для этой недостаточно обслуживаемой категории потребителей.

Смотрим в будущее: системное влияние инклюзивного дизайна технологий будет зависеть от масштабных внедрений этих выводов крупными игроками в сфере финансовых услуг. Для нас перевод инклюзивного дизайна в масштаб будет зависеть от того, сможем ли мы использовать наши исследования, чтобы сотрудничать с более крупными организациями, которые стремятся извлечь выгоду из достижений ИИ, чтобы поддерживать финансовое здоровье своих клиентов и работников.

12.  Какой совет вы бы дали финансовым учреждениям, которые стремятся использовать ИИ, сохраняя доверие и прозрачность по отношению к своим клиентам?

Домохозяйства с LMI больше заинтересованы в банкинге напрямую с человеком, но при этом имеют наименьший доступ к очным отделениям. Этот разрыв подчеркивает ключевую возможность для ИИ обеспечить тот тип персонализированной поддержки, который ищут домохозяйства из LMI, не увеличивая количество отделений или штата поддержки клиентов.

Однако чтобы добиться более широкого внедрения, финансовые учреждения должны зарабатывать и наращивать больше доверия к чатботам у людей с LMI — часть этого связана именно с опытом использования чатбота, а часть — отраслевой, поскольку по мере того как технология ИИ получает большее признание и улучшает общую безопасность и качество, уровень доверия растет.

Главные опасения людей, которые взаимодействуют с чатботами, — это безопасность и приватность.  В целом люди выражали недостаток доверия к диалоговому ИИ, считая, что он может быть не полезным, не сможет защитить их данные или не будет действовать в их интересах. Хотя многие в бизнес-мире воодушевлены потенциалом ИИ, люди, живущие на LMI, вероятно, смотрят на него более скептически — как на новую технологию, которой еще не удалось доказать свою прямую ценность для них.

Прозрачные политики работы с данными, внушающие уверенность брендинг и сообщения, а также поддержание связи с человеком как запасного варианта — все это будет способствовать формированию и зарабатыванию доверия. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, которые выходят за рамки базовой информации, предоставляемой чатботами сегодня, такой как балансы счетов и последние транзакции, также поможет продемонстрировать ценность технологии.

Также важно подчеркивать концепцию заслуженного доверия. Цель — не просто убедить людей доверять чатботам, а спроектировать чатботы так, чтобы это доверие было обосновано.