Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паулa Гриеко — старший вице-президент в Commonwealth.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансовый ИИ еще далек от совершенства — не только в скорости, точности или даже регулировании, но и в способах завоевания доверия. Особенно со стороны тех, кто традиционно не был первыми в очереди при внедрении новых технологий.

В FinTech Weekly мы следим за работой Commonwealth, некоммерческой организации, сосредоточенной на создании финансовой безопасности для семей с низким и средним доходом (LMI). Их полевые исследования, освещенные в нашей недавней редакционной статье, выявили явное напряжение: хотя пользователи с низким и средним доходом готовы к использованию таких инструментов, как чат-боты, они все еще ждут опыта, который действительно служит им — а не просто переработанных функций, созданных для других.

На этой неделе мы углубились в тему.

Мы поговорили с Паулой Гриеко, старшим вице-президентом в Commonwealth, чтобы понять, что действительно нужно для того, чтобы ИИ был эффективным — и безопасным — для недообслуживаемых сообществ. От принципов дизайна до завоевания доверия, от совместных пилотов до усталости от чат-ботов, она делится, почему намерение важнее, чем сама инновация.

Это взвешенный и продуманный взгляд на то, каким может — и должен — выглядеть инклюзивный финансовый технологический продукт.

Полное интервью читайте ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало ключевые инсайты о роли ИИ в повышении финансовой безопасности семей с низким и средним доходом. Какие были самые удивительные или значимые выводы этого исследования?

Наши исследования показывают огромный потенциал ИИ, особенно чат-ботов, для предоставления персонализированных советов и поддержки сообществам с низким доходом — при условии, что чат-боты разработаны с учетом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в основном рассматривают чат-ботов как позитивные инструменты для улучшения своего финансового положения. Наши данные показали, что 57% респондентов считают, что использование чат-ботов улучшило их финансовое состояние. Также было выявлено, что люди с низким и средним доходом (LMI) хотят функций по построению кредитной истории, бюджету и управлению долгами.

*   Участники ценили пространство без осуждения, где можно задавать чувствительные финансовые вопросы через чат-бота, не боясь стыда или самосознания, которые могут сопровождать такие разговоры при личной встрече с человеком.

3.  Как вы видите развитие разговорного ИИ в сфере финансовых услуг, особенно для недообслуживаемых сообществ?

Идеально, следующее поколение чат-ботов, основанных на генеративном ИИ, станет финансовыми помощниками, которые лучше поддерживают финансовую деятельность этих семей и завоевывают доверие у групп, часто настороженно относящихся к взаимодействию с финансовой системой и обмену данными онлайн. Есть большая возможность для поставщиков финансовых услуг предложить более сложные, нюансированные и ориентированные на действия функции для своих чат-ботов.

Когда клиенты используют финансовых чат-ботов сейчас, они в основном ищут информацию о счетах или пытаются решить проблему. Менее 20% участников нашего национального опроса использовали чат-ботов для получения финансовых советов и обучения, рекомендаций по продуктам, подачи заявок на кредиты или займы, открытия или закрытия счетов. Однако наши исследования показывают, что существует спрос на чат-ботов, которые могут помогать в этих банковских операциях. Фокусировка на таких функциях при разработке чат-ботов может повысить их использование и полезность среди этих клиентов.

Для банков и финансовых учреждений, которые еще не готовы запускать генеративных ИИ-ко-пилотов для потребителей, эта технология может поддерживать сотрудников банка, таких как консультанты по работе с клиентами, обеспечивая более качественные, точные и своевременные ответы во время взаимодействий.

4.  Какие основные вызовы стоят перед обеспечением справедливости и эффективности финансовых инструментов на базе ИИ для чернокожих, латиноамериканских и женщин-руководителей домохозяйств?

При внедрении новых технологий необходимо сознательно учитывать потребности тех, кто зарабатывает низкий и средний доход. Мы обнаружили, что частное/филантропическое партнерство с финансовыми институтами на ранних этапах помогает нарастить импульс для таких усилий. Создавая базу данных и доказательства, мы также формируем бизнес-кейс.

Мы видим значительный потенциал для разработки руководящих принципов по повышению доверия, которые могут позволить разговорному ИИ поддерживать финансовое здоровье без существенных дополнительных затрат.

5.  Исходя из ваших исследований, какие ключевые принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с низким доходом?

Commonwealth создала ресурс — Руководство по финансовому ИИ для добра, — чтобы дать практические рекомендации по дизайну для поставщиков финансовых услуг, работающих с ЛМИ. Эти рекомендации основаны на всесторонних исследованиях с финансовыми институтами, поставщиками чат-ботов и людьми, живущими с низким доходом.

Руководство структурировано вокруг четырех основных целей дизайна. Вот по одному примеру для каждой:

*   Завоевание доверия: Основная проблема большинства участников исследования при использовании чат-бота — безопасность. Здесь финансовые учреждения могут подчеркнуть безопасность данных через предварительные сообщения о мерах, предпринимаемых банком, а также дать пользователям контроль над тем, какие данные хранятся.
*   Повышение вовлеченности: Создайте опыт, в котором пользователи понимают, что эти инструменты могут для них делать и когда, обеспечивая ясность функций. Также используйте «интеллектуальную проактивность». Например, интегрируйте чат-ботов, которые всплывают в наиболее подходящее время, не будучи навязчивыми или агрессивными, чтобы не казаться спамом.
*   Повышение ценности: Предугадайте потребности клиента. Ограниченный доступ к физическим отделениям создает возможность для чат-ботов выполнять мелкие операции, на которые раньше приходилось идти в банк. Балансируйте автоматизацию и контроль, позволяя пользователям включать и отключать автоматические функции управления финансами, а также добавляйте «систему безопасности», которая при падении баланса ниже определенного порога приостанавливает автоматические операции.
*   Повышение доступности: Предлагайте поддержку на нескольких языках и руководства, соответствующие вашей клиентской базе, а также сосредоточьтесь на мобильных функциях. Наши исследования показали, что более половины респондентов предпочитают доступ к банку через мобильный телефон.

6.  Можете ли вы поделиться историями успеха или кейсами, где разговорный ИИ значительно улучшил финансовое благополучие людей с низким доходом?

Что мы знаем, так это то, что 57% участников нашего полевого тестирования отметили положительный эффект использования финансового чат-бота на их финансовое положение. Хотя эти ранние результаты обнадеживают, генеративные ИИ-инструменты все еще находятся в зачаточном состоянии, и наши дальнейшие исследования продолжат формировать базу доказательств их эффективности в улучшении финансового благополучия для людей с низким доходом.

7.  Какие риски или непредвиденные последствия должны учитывать финансовые учреждения при внедрении ИИ-управляемых финансовых инструментов?

Важно, чтобы люди с низким доходом не были исключены из процесса. При разработке инструментов важно понимать внутренние возможности и способы обслуживания этой клиентской базы.

Существует множество организаций, сосредоточенных на рисках и последствиях ИИ-инструментов, а также на предвзятости и точности больших языковых моделей. Кроме того, мы хотим убедиться, что основная проблема — релевантность финансовых рекомендаций для индивидуальных ситуаций пользователей — решена. Финансовые учреждения могут повысить вовлеченность клиентов и завоевать их доверие, обеспечивая точность предоставляемой информации и прозрачность.

ИИ предоставляет беспрецедентную возможность для людей с низким доходом получать советы и инструменты, которые ранее были недоступны — будь то инвестиционные инструменты или управление личными финансами. Эти инструменты могут быть персонализированы и адаптированы под уникальные ситуации таких клиентов. Это огромная возможность для финансовых провайдеров расширить свою клиентскую базу.

8.  Как финансовые учреждения могут измерить реальное влияние ИИ-инструментов на безопасность и благополучие пользователей?

Основные показатели финансового благополучия: увеличиваются ли сбережения, снижается ли долг, улучшаются ли кредитные рейтинги при использовании этих инструментов?

Также можно опросить опыт взаимодействия с чат-ботом — выросло ли доверие? Проявляется ли больший интерес к продуктам, которые могут помочь улучшить финансовое благополучие? Были ли предприняты действия после получения совета?

Банки также могут проводить A/B тестирование среди разных групп потребителей, взаимодействующих с чат-ботами и не взаимодействующих, чтобы определить, есть ли между ними измеримая разница.

9.  Какую роль играет человеческий контроль в внедрении ИИ-инструментов для финансовых услуг, и как поставщики могут найти правильный баланс между автоматизацией и поддержкой человека?

Один из способов повысить доверие к ИИ — обеспечить наличие человека, доступного в нужное время для взаимодействия. Здесь может помочь использование совместных пилотов сотрудниками банка, работающими с клиентами. Доступ к живому человеку по мере необходимости повышает доверие и качество взаимодействия с ИИ.

Использование разговорного ИИ позволит сотрудникам службы поддержки лучше и быстрее обслуживать сложные запросы клиентов, сохраняя человеческий подход в ключевые моменты взаимодействия, когда нужен живой агент.

Прозрачность также критична для формирования доверия. Например, вы должны знать, общаетесь ли вы с чат-ботом или с реальным человеком.

10.  Какие наиболее перспективные возможности ИИ в области финансовой инклюзии на ближайшие пять лет?

Генеративный ИИ — следующая эволюция разговорного ИИ, предлагающая персонализированное и контекстуально чувствительное взаимодействие, которое гораздо ближе к человеческой поддержке, чем структура деревьев решений большинства современных финансовых чат-ботов. Первые применения генеративного ИИ в финансах сосредоточены в основном на бэк-офисных задачах, где есть возможность поддерживать сотрудников службы поддержки. Определение способов масштабирования персонализированной поддержки с помощью генеративного ИИ в финансовом секторе — ключевая возможность для развития этой области.

Завоевание доверия будет особенно важно для более широкого внедрения генеративного ИИ, поскольку участники наших тестов и фокус-групп остаются более скептичны по сравнению с традиционными чат-ботами. Тем не менее, потенциал предоставления более продвинутого уровня поддержки во всех сферах финансовых услуг делает генеративный ИИ наиболее захватывающей технологией для наблюдения в финансовом секторе. Те, кто сможет разработать надежную и доверенную поддержку на базе генеративного ИИ, окажутся на передовой новой эпохи масштабных построений клиентских отношений.

Некоторые другие конкретные возможности — совместные пилоты и личные помощники, которые могут предоставлять комплексные финансовые рекомендации, адаптированные к индивидуальным потребностям, — так называемый личный финансовый тренер. Мы также ожидаем, что развитие разговорного ИИ сыграет важную роль в повышении финансового здоровья работников, предоставляя информацию и рекомендации по навигации в сложных системах корпоративных льгот.

11.  Как вы видите роль некоммерческих организаций, таких как Commonwealth, в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий ориентировался на внедрение среди потребителей с высоким доходом, при этом игнорируя потребности семей с низким и средним доходом. Через нашу инициативу Emerging Tech for All (ETA) мы сосредоточены на том, чтобы потребности финансово уязвимых людей были поняты, видимы, включены в релевантные дискуссии и интегрированы в решения. Мы находимся в критической точке масштабирования ИИ и считаем срочным продолжать исследования и выявлять способы, как ИИ может положительно влиять на эту группу.

На сегодняшний день в области мало исследований и внедрений по этой теме, и некоторые наши собеседники отмечали необходимость проведения более масштабных исследований для формирования доказательной базы, которая поможет внутренне обосновать такие решения. Мы отвечаем на этот вызов, создавая значимые исследования и полевые тесты, демонстрирующие, как генеративный ИИ может поддерживать финансовое благополучие семей с низким доходом и формировать бизнес-кейс для более активного проектирования решений для этой недообслуживаемой категории.

Глядя в будущее, системное влияние инклюзивного дизайна технологий будет зависеть от масштабирования этих идей крупными игроками в сфере финансовых услуг. Для нас масштабирование инклюзивного дизайна — это использование наших исследований в партнерстве с крупными организациями, стремящимися использовать достижения ИИ для поддержки финансового здоровья своих клиентов и работников.

12.  Какой совет вы бы дали финансовым учреждениям, желающим использовать ИИ, сохраняя доверие и прозрачность с клиентами?

Люди с низким доходом больше заинтересованы в личном общении с человеком, но при этом имеют наименьший доступ к отделениям. Этот разрыв создает ключевую возможность для ИИ — предоставлять персонализированную поддержку, которую ищут семьи с низким доходом, без необходимости увеличения числа отделений или сотрудников поддержки.

Однако для более широкого внедрения необходимо завоевать и укрепить доверие к чат-ботам у людей с низким доходом — часть этого зависит от опыта взаимодействия с чат-ботами, часть — от отраслевых стандартов, поскольку технологии ИИ становятся более принятыми и безопасными.

Главные опасения у пользователей — безопасность и конфиденциальность. В целом, у людей вызывает недоверие разговорный ИИ в вопросах полезности, защиты данных и встает вопрос о его интересах. Хотя многие в бизнесе воодушевлены потенциалом ИИ, люди с низким доходом, скорее всего, относятся к нему с большим скепсисом как к новой технологии, которая еще должна доказать свою ценность для них.

Прозрачные политики обработки данных, уверяющие брендинг и сообщения, а также возможность обратиться к живому агенту при необходимости — все это поможет укрепить доверие. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, выходящих за рамки базовой информации, такой как баланс счета и последние транзакции, также продемонстрирует ценность технологии.

Важно также подчеркнуть концепцию заслуженного доверия. Цель — не просто убедить людей доверять чат-ботам, а так спроектировать их, чтобы это доверие было оправданным.