ИИ, доверие и недостаточно обслуживаемые — интервью с Полой Гриеко, старшим вице-президентом в Commonwealth

Паула Гриеко — старший вице-президент Commonwealth.

Откройте для себя главные новости и события в сфере финтеха!

Подпишитесь на рассылку FinTech Weekly

Читается руководителями JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансовому ИИ предстоит пройти долгий путь — не только в плане скорости, точности или даже регулирования, но и в том, как он завоевывает доверие. Особенно у тех, кто традиционно не был в первых рядах, когда внедряются новые технологии.

В FinTech Weekly мы следим за работой Commonwealth, некоммерческой организации, ориентированной на повышение финансовой безопасности домохозяйств с низким и средним доходом (LMI). Их полевая работа, исследованная в нашей недавней редакционной статье, выявила явное противоречие: пользователи с LMI открыты к таким инструментам, как чат-боты, но все еще ждут опыта, который действительно служит им, — а не просто переупакованных функций, созданных для кого-то другого.

На этой неделе мы углубились в тему.

Мы поговорили с Паулой Гриеко, старшим вице-президентом Commonwealth, чтобы понять, что на самом деле нужно для того, чтобы ИИ был эффективным — и безопасным — для недостаточно обслуживаемых сообществ. От принципов проектирования до заслуженного доверия, от копилот-систем до усталости от чат-ботов — она делится мыслями о том, почему намерение важнее простых инноваций.

Это взвешенный и продуманный взгляд на то, какой могла бы — и должна была бы — быть инклюзивная финансовая технология.

Читайте полное интервью ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало ключевое понимание роли ИИ в повышении финансовой безопасности домохозяйств с LMI. Какие были наиболее неожиданные или значимые выводы из этого исследования?

Наше исследование освещает огромный потенциал ИИ, в частности чат-ботов, для предоставления персонализированных рекомендаций и поддержки сообществам с низкими доходами — если чат-боты будут тщательно разработаны с учетом потребностей и перспектив этой группы.

Два ключевых вывода:

*   Клиенты в целом рассматривают чат-ботов как положительные инструменты для улучшения своего финансового благополучия. Наши данные показали, что 57% респондентов заявили, что использование чат-ботов улучшило их финансовое положение. Исследование также показало, что люди с низким и средним доходом (LMI) хотят функций по наращиванию кредитной истории, составлению бюджета и управлению долгом.

*   Респонденты ценили пространство без осуждения при общении с чат-ботом для задавания конфиденциальных финансовых вопросов, не беспокоясь о стыде или неловкости, которые могут сопровождать такой же разговор лицом к лицу с представителем-человеком.

3.  Как, по вашему мнению, будет развиваться разговорный ИИ в сфере финансовых услуг, особенно для недостаточно обслуживаемых сообществ?

В идеале следующее поколение чат-ботов, работающих на генеративном ИИ, станет ИИ-помощниками по финансам, которые будут лучше поддерживать финансовую деятельность этих домохозяйств и завоевывать доверие среди групп населения, которые часто с осторожностью относятся к взаимодействию с финансовой системой и к обмену данными онлайн. Существует большая возможность для поставщиков финансовых услуг предоставлять своим чат-ботам более сложные, нюансированные и ориентированные на действия возможности.

Когда клиенты сейчас используют финансовых чат-ботов, они в первую очередь ищут информацию о счетах или пытаются решить проблему. Менее 20% респондентов нашего национального опроса использовали чат-ботов для получения финансовых советов и образования, рекомендаций по продуктам, подачи заявок на кредит или ссуду, а также открытия или закрытия счетов. Однако наше исследование показывает, что существует спрос на чат-ботов, которые могут помогать с такими типами банковских операций. Сосредоточение на таких функциях при разработке чат-ботов может повысить их использование и полезность среди этих клиентов.

Для банков и финансовых учреждений, которые еще не готовы запускать генеративные ИИ-копилоты напрямую для потребителей, эта технология может поддерживать банковских сотрудников, таких как представители службы поддержки клиентов, чтобы они могли предоставлять более качественные, точные и своевременные ответы клиентам во время взаимодействия.

4.  Каковы некоторые из самых больших проблем в обеспечении того, чтобы финансовые инструменты на базе ИИ были справедливыми и эффективными для домохозяйств чернокожих, латиноамериканцев и возглавляемых женщинами?

Со всеми новыми технологиями необходимо прилагать целенаправленные усилия для того, чтобы потребности людей с низким и средним доходом были включены в процесс разработки и дизайнерские решения. Мы обнаружили, что частное/филантропическое партнерство с финансовыми учреждениями на раннем этапе помогает создать импульс для этих усилий. Расширяя доказательную базу, мы также помогаем обосновать бизнес-кейс.

Мы видим значительный потенциал для разработки рекомендаций по дизайну в таких областях, как повышение заслуженного доверия, что может позволить разговорному ИИ поддерживать финансовое здоровье без значительного увеличения затрат.

5.  Основываясь на вашем исследовании, каковы ключевые принципы дизайна, которые поставщики финансовых услуг должны учитывать при интеграции ИИ для поддержки пользователей с LMI?

Commonwealth создал ресурс «Руководство по финансовому ИИ во благо», чтобы предоставить практические рекомендации по дизайну для поставщиков финансовых услуг, обслуживающих население с LMI. Мы разработали эти рекомендации на основе всестороннего исследования с участием финансовых учреждений, поставщиков чат-ботов и людей с LMI.

Руководство организовано вокруг четырех основных целей дизайна. Я приведу по одному-два примера для каждой:

2.  Завоевать доверие: Главной проблемой большинства респондентов нашего исследования при использовании чат-бота была безопасность. Именно здесь финансовые учреждения могут подчеркнуть безопасность данных с помощью предварительных сообщений о мерах, принимаемых банком, а также дать пользователям контроль над тем, какие данные хранятся.
4.  Стимулировать вовлеченность: Сделайте опыт таким, чтобы пользователи знали, что эти инструменты могут для них сделать и когда, создавая ясность относительно их функций. Также стремитесь к «интеллектуальной проактивности». Например, интегрируйте чат-ботов, которые появляются, когда они могут быть наиболее полезны, не будучи слишком навязчивыми или агрессивными, что может восприниматься как спам.
6.  Повысить ценность: Предугадывайте потребности вашего клиента. Ограниченный доступ к физическим отделениям создает возможность для чат-ботов выполнять небольшие действия, для которых клиентам раньше приходилось идти в банк. Сбалансируйте автоматизацию и контроль, позволяя пользователям включать и выключать функции автоматизированных финансов, и включите функции «страховочной сети», которые приостанавливают автоматическое перемещение денег, если баланс падает ниже определенного порога.
8.  Улучшить доступность: Предлагайте многоязычную поддержку и рекомендации, соответствующие вашей клиентской базе, и сосредоточьтесь на функциях, удобных для мобильных устройств. Наше исследование показало, что более половины всех респондентов предпочитают получать доступ к своему банковскому обслуживанию через мобильные телефоны.

6.  Можете ли вы поделиться историями успеха или примерами, где разговорный ИИ значительно улучшил финансовое благополучие отдельных лиц с LMI?

Мы знаем, что 57% пользователей в нашем полевом исследовании указали, что использование финансового чат-бота оказало положительное влияние на их финансовое положение. Хотя эти ранние результаты обнадеживают, инструменты генеративного ИИ все еще находятся в зачаточном состоянии, и наши текущие исследования продолжат создавать доказательную базу их эффективности в улучшении финансового благополучия людей с LMI.

7.  О каких рисках или непреднамеренных последствиях следует помнить финансовым учреждениям при внедрении финансовых инструментов на базе ИИ?

Важно, чтобы люди с LMI не остались в стороне от уравнения. Когда финансовые учреждения разрабатывают инструменты, важно, чтобы они понимали внутренние возможности и способы обслуживания клиентской базы LMI.

Существует много организаций, которые занимаются конкретно внутренними рисками и последствиями инструментов на базе ИИ, а также предвзятостью и точностью больших языковых моделей. Помимо этого, мы хотим убедиться, что решается основная проблема: релевантность финансовых рекомендаций для индивидуальных финансовых ситуаций пользователей. Финансовые учреждения могут повысить вовлеченность клиентов и завоевать их доверие, обеспечив точность предоставляемой информации и реальную прозрачность.

ИИ предоставляет беспрецедентную возможность для людей с LMI получить доступ к советам и инструментам, которые традиционно были для них недоступны, будь то инвестиционные инструменты или управление личными финансами. Эти инструменты могут быть персонализированы и адаптированы для людей с LMI и их уникальных ситуаций. Это огромная возможность для поставщиков финансовых услуг расширить свою клиентскую базу.

8.  Как финансовые учреждения могут измерить реальное влияние инструментов на базе ИИ на финансовую безопасность и благополучие пользователей?

Основы финансового благополучия: есть ли увеличение сбережений, сокращение долга, улучшение кредитных рейтингов при использовании этих инструментов?

Мы также можем опросить опыт взаимодействия с чат-ботом — увеличилось ли доверие? Повысился ли интерес к продуктам, которые были бы полезны для улучшения финансового благополучия? Что касается консультирования, были ли предприняты действия после получения совета?

Банки также могут проводить A/B-тестирование среди различных групп потребителей, взаимодействующих с чат-ботами, по сравнению с теми, кто этого не делает, чтобы увидеть, есть ли измеримая разница между ними.

9.  Какую роль играет человеческий контроль в развертывании инструментов ИИ для финансовых услуг, и как поставщики могут найти правильный баланс между автоматизацией и человеческой поддержкой?

Один из способов повысить заслуженное доверие к ИИ — это обеспечить доступность человека в нужные моменты во время взаимодействия. Именно здесь может быть полезным использование копилот-систем сотрудниками банка, работающими с клиентами. Доступ к живому человеку при необходимости повышает доверие и опыт взаимодействия с инструментом ИИ.

Использование разговорного ИИ позволит представителям службы поддержки клиентов лучше и быстрее обслуживать сложные потребности своих клиентов и членов, обеспечивая при этом человеческое участие в ключевых точках взаимодействия, когда желателен живой агент.

Прозрачность также имеет решающее значение для построения доверия в любом взаимодействии. Вы должны знать, например, разговариваете ли вы с чат-ботом или с реальным человеком.

10.  Заглядывая вперед, какие наиболее захватывающие возможности для ИИ в области финансовой инклюзивности появятся в ближайшие пять лет?

Генеративный ИИ представляет собой следующую эволюцию разговорной поддержки на базе ИИ, предлагая персонализированное и контекстно-чувствительное взаимодействие на уровне, который гораздо ближе к человеческой поддержке, чем структура дерева решений большинства современных финансовых чат-ботов. Первоначальные применения генеративного ИИ в финансах были сосредоточены в основном на внутренних приложениях, где есть возможность поддерживать агентов службы поддержки клиентов. Определение того, как генеративный ИИ может обеспечить персонализированную поддержку в масштабе в финансовом контексте, является ключевой возможностью для стимулирования развития в этом секторе.

Создание заслуженного доверия будет особенно критичным для более широкого внедрения генеративного ИИ, к которому участники наших полевых тестов и фокус-групп относятся более скептически, чем к традиционным чат-ботам. Тем не менее, потенциальные преимущества предоставления более продвинутого уровня поддержки в различных финансовых приложениях делают генеративный ИИ самой захватывающей технологией в финансовом секторе. Те, кто сможет разработать надежную и заслуживающую доверия поддержку на базе генеративного ИИ, окажутся на переднем крае этой новой эры построения отношений с клиентами в масштабе.

Некоторые другие конкретные возможности, которые мы видим, — это копилот-системы и персональные ассистенты, которые могут предоставлять всесторонние финансовые рекомендации, адаптированные к индивидуальным потребностям, своего рода персональный финансовый коуч. Мы также ожидаем, что достижения в области разговорного ИИ будут играть ценную роль в укреплении финансового здоровья работников, предоставляя информацию и рекомендации для навигации по сложным системам льгот для сотрудников.

11.  Как вы видите эволюцию роли таких некоммерческих организаций, как Commonwealth, в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий был сосредоточен на внедрении среди потребителей с высоким доходом, упуская при этом потребности домохозяйств с LMI. Благодаря нашей инициативе «Новые технологии для всех» (ETA) мы сосредоточены на том, чтобы потребности финансово уязвимых людей были поняты, видны, включены в соответствующие обсуждения и интегрированы в решения. Мы находимся в критической точке поворота в масштабировании ИИ и считаем, что необходимо срочно продолжать исследовать и определять способы, которыми ИИ может положительно повлиять на это население.

На сегодняшний день в этой области существует относительно мало исследований и примеров внедрения, и некоторые из опрошенных нами поставщиков ссылались на необходимость более масштабных исследований для создания такого рода доказательств, которые они могли бы использовать для обоснования такого дизайна внутри своих организаций. Мы принимаем этот вызов, проводя значимые исследования и полевые испытания, которые демонстрируют, как генеративный ИИ может поддерживать финансовое благополучие домохозяйств с LMI, и обосновывают бизнес-кейс для более активного проектирования для этого недостаточно обслуживаемого сегмента потребителей.

Заглядывая в будущее, системное влияние инклюзивного дизайна технологий будет зависеть от масштабного применения этих идей крупными игроками в сфере финансовых услуг. Для нас переход инклюзивного дизайна на масштаб будет зависеть от использования наших исследований для партнерства с более крупными организациями, стремящимися использовать достижения в области ИИ для поддержки финансового здоровья своих клиентов и работников.

12.  Какой совет вы бы дали финансовым учреждениям, стремящимся использовать ИИ, сохраняя при этом доверие и прозрачность со своими клиентами?

Домохозяйства с LMI больше заинтересованы в банковском обслуживании напрямую с человеком, но при этом имеют наименьший доступ к физическим отделениям. Этот разрыв подчеркивает ключевую возможность для ИИ предоставлять тот вид персонализированной поддержки, которую ищут домохозяйства с LMI, без необходимости увеличивать количество отделений или персонала службы поддержки клиентов.

Однако для более широкого внедрения финансовые учреждения должны заслужить и построить больше доверия к чат-ботам среди людей с LMI — часть этого относится к опыту взаимодействия с чат-ботами, а часть является общеотраслевой, поскольку технология ИИ получает все большее признание и улучшает общую безопасность и качество.

Главные опасения людей при взаимодействии с чат-ботами — это безопасность и конфиденциальность. В целом люди выражают недоверие к разговорному ИИ в плане его полезности, защиты их данных или действий в их интересах. В то время как многие в деловом мире воодушевлены потенциалом ИИ, люди с LMI, вероятно, относятся к нему с большим скептицизмом как к новой технологии, которая еще не продемонстрировала свою прямую ценность для них.

Прозрачная политика в отношении данных, обнадеживающий брендинг и сообщения, а также поддержание связи с агентом-человеком в качестве запасного варианта — все это поможет в построении и завоевании доверия. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, которые выходят за рамки предоставления базовой информации, предлагаемой сегодня чат-ботами, такой как баланс счетов и недавние транзакции, также поможет продемонстрировать ценность технологии.

Также важно подчеркнуть концепцию заслуженного доверия. Цель состоит не просто в том, чтобы убедить людей доверять чат-ботам, а в том, чтобы на самом деле спроектировать чат-ботов таким образом, чтобы это доверие было оправданным.