Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паула Греко — старший вице-президент в Commonwealth.

Откройте для себя лучшие новости и мероприятия в финтехе!

Подпишитесь на рассылку информационного бюллетеня FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и других

У финансового ИИ еще долгий путь — не только с точки зрения скорости, точности или даже регулирования, но и в том, как он зарабатывает доверие. Особенно со стороны тех, кто традиционно не был первым в очереди, когда запускается новая технология.

В FinTech Weekly мы следим за работой Commonwealth — некоммерческой организации, которая сосредоточена на создании финансовой безопасности для домохозяйств с низким и умеренным доходом (LMI). Их полевые исследования, рассмотренные в нашем недавнем редакционном материале, выявили понятное противоречие: тогда как пользователи с LMI готовы к таким инструментам, как чатботы, они все еще ждут опыта, который действительно служит им — а не просто переформатированных функций, созданных для кого-то другого.

На этой неделе мы углубились.

Мы поговорили с Паула Греко, старшим вице-президентом Commonwealth, чтобы понять, что на самом деле нужно, чтобы ИИ был эффективным — и безопасным — для недостаточно обеспеченных сообществ. От принципов дизайна до доверия, которое было заслужено, от ко-пилотов до усталости от чатботов — она рассказывает, почему важнее всего намерение, а не одна лишь инновация.

Это приземленный и вдумчивый взгляд на то, как — и каким образом — может выглядеть инклюзивная финансовая технология.

Читайте полное интервью ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало ключевые выводы о роли ИИ в повышении финансовой безопасности домохозяйств с LMI. Какие самые неожиданные или наиболее значимые результаты выявило это исследование?

Наше исследование освещает огромный потенциал ИИ, в частности чатботов, предоставлять персонализированное руководство и поддержку сообществам, живущим на более низкие доходы —  если чатботы продуманы с учетом потребностей и перспектив этой группы.

Два ключевых вывода:

*   Клиенты в целом воспринимают чатботов как позитивные инструменты для улучшения своего финансового благополучия. Наши данные показали, что 57% респондентов заявили: использование чатботов улучшило их финансовое положение. Исследование также показало, что люди с низким и умеренным доходом (LMI) хотят функции для наращивания кредитной истории, составления бюджета и управления долгами.

*   Респонденты ценили пространство без осуждения с чатботом для того, чтобы задавать деликатные финансовые вопросы, не беспокоясь о стыде или неловкости, которые могут сопровождать тот же разговор, происходящий лицом к лицу с представителем-человеком.

3.  Как вы видите развитие разговорного ИИ в сфере финансовых услуг, особенно для недостаточно обеспеченных сообществ?

В идеале следующее поколение чатботов, подпитываемых генеративным ИИ, будет представлять собой ИИ-финансовых помощников, которые лучше поддерживают финансовые активности этих домохозяйств и заслуживают доверие у групп населения, которые часто настороженно относятся к взаимодействию с финансовой системой и к обмену данными в интернете. Существует большая возможность для поставщиков финансовых услуг предоставить своим чатботам более сложные, нюансированные и ориентированные на действия возможности.

Когда клиенты используют финансовые чатботы сейчас, они в первую очередь ищут информацию по счетам или пытаются решить проблему. Менее 20% респондентов нашего национального опроса использовали чатботов для финансового совета и обучения, рекомендаций по продуктам, подачи заявок на кредит или займы и открытия или закрытия счетов. Однако наше исследование находит спрос на чатботов, которые могут помогать с подобными типами банковских действий. Сосредоточение на этих типах функций при разработке чатботов может повысить их использование и полезность среди этих клиентов.

Для банков и финансовых организаций, которые пока не готовы напрямую запускать генеративных ИИ-ко-пилотов для потребителей, эта технология может поддерживать сотрудников банка — например, представителей по работе с клиентами — чтобы обеспечивать более качественные, точные и своевременные ответы клиентам во время взаимодействий.

4.  С какими крупнейшими проблемами сталкиваются при обеспечении равноправия и эффективности ИИ-ориентированных финансовых инструментов для домохозяйств, возглавляемых темнокожими (Black), латиноамериканцами (Latinx) и женщинами?

При появлении любых новых технологий нужно прилагать намеренные усилия, чтобы потребности тех, кто зарабатывает низкий или умеренный доход, были включены в процесс разработки и в дизайнерские решения. Мы обнаружили, что частное/благотворительное партнерство с финансовыми институтами на раннем этапе помогает создать импульс для этих инициатив. Расширяя доказательную базу, мы также помогаем обосновать бизнес-кейс.

Мы видели значительный потенциал для дизайнерского руководства в таких вещах, как повышение заслуженного доверия, которое может позволить разговорному ИИ поддерживать финансовое здоровье без существенного роста затрат.

5.  Опираясь на ваше исследование, какие ключевые принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с LMI?

Commonwealth создала ресурс — Financial AI for Good Guide — чтобы предоставлять практические рекомендации по дизайну поставщикам финансовых услуг, которые обслуживают популяции с LMI. Мы разработали эти рекомендации на основе всестороннего исследования с финансовыми институтами, провайдерами чатботов и людьми, живущими в условиях LMI.

Руководство организовано вокруг четырех основных целей дизайна. Я приведу по одному примеру или два для каждой:

2.  Заработанное доверие: Главная обеспокоенность большинства респондентов нашего исследования при использовании чатбота была вопросом безопасности. Именно здесь финансовые институты могут подчеркнуть безопасность данных через предварительные сообщения о тех мерах, которые банк предпринимает, а также дать пользователям контроль над тем, какие данные сохраняются.
4.  Повышать вовлеченность: Сделайте опыт таким, чтобы пользователи понимали, что эти инструменты могут для них сделать и когда именно, создавая ясность в отношении их функций. Также следует добиваться «интеллектуальной проактивности». Например, интегрируйте чатботов, которые всплывают, когда они могут быть максимально полезными, не будучи слишком навязчивыми или агрессивными — это может восприниматься как спам.
6.  Повышать ценность: Предвосхищайте потребности вашего клиента. Ограниченный доступ к физическим отделениям создает возможность для чатботов выполнять небольшие действия, которые клиентам, возможно, приходилось бы ради этого идти в банк. Сбалансируйте автоматизацию и контроль, разрешив пользователям включать и выключать автоматизированные финансовые функции, и добавьте «страховочные» функции, которые останавливают автоматизированное перемещение денег, если баланс падает ниже определенного порога.
8.  Улучшать доступность: Предлагайте многоязычную поддержку и рекомендации, соответствующие вашей базе клиентов, и делайте акцент на функциях, удобных для мобильных устройств. Наше исследование показало, что более половины всех респондентов предпочитали получать доступ к своим банковским услугам через мобильные телефоны.

6.  Можете поделиться какими-либо историями успеха или кейс-стади, где разговорный ИИ заметно улучшил финансовое благополучие людей с LMI?

То, что мы знаем: 57% пользователей в нашем пилотном исследовании на базе полевых тестов указали, что использование финансового чатбота оказало позитивное влияние на их финансовое положение. Хотя эти ранние результаты многообещающие, инструменты генеративного ИИ все еще находятся на ранней стадии, и наше продолжающееся исследование будет и дальше накапливать доказательную базу об их эффективности в улучшении финансового благополучия людей с LMI.

7.  Какие риски или непреднамеренные последствия должны учитывать финансовые институты при внедрении ИИ-ориентированных финансовых инструментов?

Важно, чтобы люди с LMI не оставались вне уравнения. Когда финансовые институты разрабатывают инструменты, важно, чтобы они понимали заложенные возможности и способы обслуживания целевой базы клиентов с LMI.

Существует множество организаций, сосредоточенных именно на присущих рисках и последствиях ИИ-ориентированных инструментов, а также на смещениях и точности больших языковых моделей. Помимо этого, мы хотим убедиться, что решается ключевая обеспокоенность: релевантность финансовых рекомендаций индивидуальному финансовому положению пользователя. Финансовые институты могут повысить вовлеченность клиентов и заработать их доверие, обеспечив, что информация, которую они предоставляют, точна, и что существует реальная прозрачность.

ИИ открывает беспрецедентную возможность для людей с LMI получать советы и инструменты, которые традиционно были им недоступны, будь то инструменты для инвестирования или управление личными финансами. Эти инструменты могут быть персонализированы и адаптированы под людей с LMI и их уникальные обстоятельства. Это огромная возможность для финансовых провайдеров расширять свою клиентскую базу.

8.  Как финансовые институты могут измерять реальное влияние ИИ-ориентированных инструментов на финансовую безопасность и благополучие пользователей?

Основы финансового благополучия:  Увеличиваются ли сбережения, снижается ли уровень долгов, улучшаются ли кредитные рейтинги при использовании этих инструментов?

Мы также можем опросить впечатления от взаимодействия с чатботом — растет ли доверие? Увеличивается ли интерес к продуктам, которые могли бы помочь улучшить финансовое благополучие? Что касается рекомендаций: предпринимались ли какие-то действия после получения совета?

Банки также могут проводить A/B-тестирование среди разных групп потребителей, которые взаимодействуют с чатботами, и тех, кто не взаимодействует, чтобы увидеть, есть ли измеримая разница между ними.

9.  Какую роль играет человеческий надзор при внедрении ИИ-инструментов для финансовых услуг и как провайдерам найти правильный баланс между автоматизацией и поддержкой человеком?

Один из способов повысить заслуженное доверие к ИИ — убедиться, что в нужные моменты рядом есть доступный человек.  Именно здесь использование ко-пилотов сотрудниками банка, которые взаимодействуют с клиентами, может быть полезным. Доступ к живому человеку, когда это необходимо, повышает доверие и улучшает опыт взаимодействия с ИИ-инструментом.

Использование разговорного ИИ позволит представителям службы поддержки лучше и быстрее обслуживать сложные потребности своих клиентов и членов, обеспечивая «человеческое прикосновение» в ключевых точках взаимодействия, когда нужен живой агент.

Прозрачность также критически важна, чтобы сформировать доверие в любом взаимодействии. Вам следует, например, понимать, разговариваете ли вы с чатботом или с реальным человеком.

10.  Смотря вперед, какие самые захватывающие возможности для ИИ в финансовой инклюзии ожидают нас в ближайшие пять лет?

Генеративный ИИ представляет следующую эволюцию поддержки разговорного ИИ — обеспечивая персонализированное и контекстно-чувствительное взаимодействие на уровне, который гораздо ближе имитирует поддержку человеком, чем структура «дерева решений» большинства финансовых чатботов сегодня. Первичные приложения генеративного ИИ в финансах были сосредоточены в основном на бэк-офисных сценариях, где есть возможность поддерживать агентов по обслуживанию клиентов. Определение того, как генеративный ИИ может обеспечивать персонализированную поддержку в масштабе в финансовом контексте, — ключевая возможность для того, чтобы ускорить развитие в этом секторе.

Формирование заслуженного доверия будет особенно критичным для более широкого внедрения генеративного ИИ, поскольку участники наших полевых тестов и фокус-групп остаются более скептичными к нему, чем к традиционным чатботам. Тем не менее, потенциальные преимущества предоставления более продвинутого уровня поддержки во всех приложениях финансовых услуг делают генеративный ИИ самой захватывающей технологией, за которой стоит следить в финансовом секторе. Те, кто сможет разрабатывать доверенный и надежный генеративный ИИ-поддержки, окажутся на переднем крае нового этапа построения отношений с клиентами в масштабе.

Еще несколько конкретных возможностей, которые мы видим: ко-пилоты и персональные помощники, которые могут предоставлять исчерпывающее финансовое руководство, адаптированное под индивидуальные потребности — условно, личного финансового коуча. Мы также ожидаем, что развитие разговорного ИИ сыграет ценную роль в поддержке финансового здоровья работников, предоставляя информацию и руководство для навигации по сложным системам льгот для сотрудников.

11.  Как вы видите роль некоммерческих организаций вроде Commonwealth в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий был ориентирован на внедрение со стороны потребителей с более высокими доходами, при этом потребности домохозяйств с LMI игнорировались. Через нашу инициативу Emerging Tech for All (ETA) мы сосредоточены на том, чтобы потребности финансово уязвимых людей были поняты, стали видимыми, введены в релевантные обсуждения и встроены в решения. Мы находимся в критической точке перелома в масштабировании ИИ и считаем срочным продолжать исследовать и выявлять способы, с помощью которых ИИ может позитивно влиять на эту популяцию.

Относительно мало исследований и внедрения в этой области существует на сегодняшний день, и некоторые из провайдеров, с которыми мы проводили интервью, ссылались на необходимость более масштабных исследований, чтобы накопить тот уровень доказательств, который можно использовать внутри организаций, чтобы обосновывать такой тип дизайна. Мы отвечаем на этот вызов, создавая значимые исследования и полевые тесты на местах, которые показывают, как генеративный ИИ может поддерживать финансовое благополучие домохозяйств, живущих на LMI, и помогают обосновать бизнес-кейс для более активного проектирования с учетом нужд этой недостаточно обслуживаемой группы потребителей.

Заглядывая вперед, системное влияние инклюзивного дизайна будет зависеть от масштабных приложений этих выводов со стороны ключевых игроков в финансовых услугах. Для нас перевод инклюзивного дизайна в масштаб будет зависеть от использования наших исследований для партнерства с более крупными организациями, которые стремятся извлечь выгоду из достижений в ИИ, чтобы поддерживать финансовое здоровье своих клиентов и сотрудников.

12.  Какой совет вы бы дали финансовым институтам, которые хотят использовать ИИ, сохраняя доверие и прозрачность по отношению к своим клиентам?

Домохозяйства с LMI больше заинтересованы в банковском обслуживании напрямую через человека, однако имеют меньше всего доступа к очным отделениям. Этот разрыв подчеркивает важную возможность: ИИ может предоставлять тот тип персонализированной поддержки, который ищут домохозяйства с LMI, не требуя увеличивать число отделений или штата сотрудников поддержки клиентов.

Однако чтобы обеспечить более широкое внедрение, финансовые институты должны заслужить и нарастить доверие к чатботам со стороны людей с LMI — часть этого доверия связана с опытом взаимодействия с конкретным чатботом, а часть — с отраслевым общим уровнем, поскольку технологии ИИ получают большее принятие и улучшают общую безопасность и качество.

Главные опасения людей, взаимодействующих с чатботами, — это безопасность и конфиденциальность.  В целом, люди выражали недостаток доверия к разговорному ИИ в том, что он будет полезным, защитит их данные или будет действовать в их интересах. Хотя многие в бизнес-среде воодушевлены потенциалом ИИ, люди, живущие на LMI, вероятно, рассматривают его с большим скепсисом как новую технологию, которая еще не продемонстрировала им свою прямую ценность.

Прозрачные политики работы с данными, поддерживающий бренд и понятные сообщения, а также сохранение связи с человеком как резервного варианта помогут в построении и зарабатывании доверия. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, которые выходят за рамки предоставления базовой информации, предлагаемой чатботами сегодня, такой как балансы счетов и последние операции, также поможет продемонстрировать ценность технологии.

Также важно подчеркивать концепцию заслуженного доверия. Цель заключается не просто в том, чтобы убедить людей доверять чатботам, а в том, чтобы спроектировать чатботов таким образом, чтобы это доверие было оправданным.