Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паула Грикко — старший вице-президент в Commonwealth.

Откройте для себя главные новости и события в финтехе!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансовый ИИ еще далек от совершенства — не только в скорости, точности или регулировании, но и в способах завоевания доверия. Особенно со стороны тех, кто традиционно не был первыми, кто пробует новые технологии.

В FinTech Weekly мы следим за работой Commonwealth, некоммерческой организации, которая занимается созданием финансовой безопасности для семей с низким и средним доходом (LMI). Их полевые исследования, описанные в нашей недавней редакционной статье, выявили явное напряжение: хотя пользователи с низким доходом готовы использовать такие инструменты, как чат-боты, они все еще ждут опыта, который действительно служит им, а не просто переработанных функций для других.

На этой неделе мы углубились в тему.

Мы поговорили с Паула Грикко, старшим вице-президентом Commonwealth, чтобы понять, что действительно нужно для того, чтобы ИИ был эффективным — и безопасным — для недообслуживаемых сообществ. От принципов дизайна до завоевания доверия, от совместных помощников до усталости от чат-ботов — она рассказывает, почему важнее намерение, а не только инновации.

Это взвешенный и продуманный взгляд на то, каким может — и должен — быть инклюзивный финансовый технологический продукт.

Полное интервью читайте ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало важные инсайты о роли ИИ в повышении финансовой безопасности семей с низким доходом. Какие были самые удивительные или значимые выводы этого исследования?

Наши исследования показывают огромный потенциал ИИ, особенно чат-ботов, для предоставления персонализированных советов и поддержки сообществам с низким доходом — при условии, что чат-боты разработаны с учетом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в основном воспринимают чат-ботов как позитивный инструмент для улучшения своего финансового положения. Наши данные показали, что 57% опрошенных считают, что использование чат-ботов улучшило их финансы. Также было выявлено, что люди с низким и средним доходом хотят функции по построению кредитной истории, бюджету и управлению долгами.

*   Участники ценили пространство без осуждения, где можно задавать чувствительные финансовые вопросы без страха стыда или неловкости, которые могут возникнуть при разговоре с человеком лично.

3.  Как вы видите развитие разговорного ИИ в сфере финансовых услуг, особенно для недообслуживаемых сообществ?

Идеально, следующее поколение чат-ботов, основанных на генеративном ИИ, станет финансовыми помощниками, которые лучше поддерживают финансовую деятельность этих семей и завоевывают доверие тех, кто часто настороженно относится к участию в финансовой системе и обмену данными онлайн. Есть огромная возможность для поставщиков финансовых услуг создавать более сложные, нюансированные и ориентированные на действия функции для своих чат-ботов.

Когда клиенты используют финансовых чат-ботов сейчас, они в основном ищут информацию о счетах или пытаются решить проблему. Менее 20% участников нашего национального опроса использовали чат-ботов для получения финансовых советов и обучения, рекомендаций по продуктам, подачи заявок на кредиты или займы, открытия или закрытия счетов. Однако наши исследования показывают, что есть спрос на чат-ботов, которые могут помогать в этих операциях. Разработка таких функций может повысить их использование и полезность среди клиентов.

Для банков и финансовых учреждений, которые еще не готовы запускать генеративных ИИ-ко-пилотов для клиентов, эта технология может поддерживать сотрудников банка, например, консультантов, чтобы они могли быстрее и точнее отвечать на запросы клиентов.

4.  Какие основные сложности возникают при обеспечении справедливости и эффективности ИИ-инструментов для чернокожих, латиноамериканских и женщин-руководителей домохозяйств?

При внедрении новых технологий важно сознательно учитывать потребности тех, кто зарабатывает низкий и средний доход. Мы обнаружили, что раннее партнерство с частными и благотворительными организациями и финансовыми институтами помогает нарастить импульс для таких инициатив. Создавая базу данных доказательств, мы также укрепляем бизнес-кейс.

Мы видим значительный потенциал в разработке руководств по дизайну, например, по увеличению доверия, что позволяет разговорному ИИ поддерживать финансовое здоровье без существенных дополнительных затрат.

5.  Какие ключевые принципы дизайна, по вашему мнению, должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с низким доходом?

Commonwealth создала ресурс — Руководство по финансовому ИИ для добра, — чтобы дать практические рекомендации по дизайну для поставщиков услуг, работающих с LMI. Эти рекомендации основаны на всесторонних исследованиях с финансовыми институтами, поставщиками чат-ботов и людьми с низким доходом.

Руководство структурировано вокруг четырех основных целей дизайна. Вот по одному примеру для каждой:

*   Завоевание доверия: большинство участников исследования при использовании чат-бота беспокоились о безопасности. Здесь банки могут подчеркнуть меры по защите данных через предварительные сообщения и дать пользователям контроль над тем, какая информация хранится.
*   Повышение вовлеченности: создавайте опыт, в котором пользователи понимают, что эти инструменты могут для них сделать и когда, обеспечивая ясность функций. Также используйте «интеллектуальную проактивность»: внедряйте чат-ботов, которые появляются в наиболее подходящее время, не будучи навязчивыми.
*   Повышение ценности: предугадывайте потребности клиента. Ограниченный доступ к физическим отделениям создает возможность для чат-ботов выполнять мелкие операции, на которые раньше приходилось идти в банк. Балансируйте автоматизацию и контроль, позволяя пользователям включать и отключать автоматические функции, а также добавляйте «запасные» функции, которые при низком балансе приостанавливают автоматические операции.
*   Повышение доступности: предоставляйте поддержку на нескольких языках и руководства, соответствующие вашей аудитории, а также ориентируйтесь на мобильные функции. Наши исследования показали, что более половины респондентов предпочитают пользоваться мобильным банкингом.

6.  Можете ли вы привести примеры успешных кейсов, когда разговорный ИИ значительно улучшил финансовое благополучие LMI-людей?

Из наших данных следует, что 57% участников полевого тестирования отметили положительный эффект использования финансового чат-бота на их финансы. Хотя эти начальные результаты обнадеживают, генеративные ИИ-инструменты еще находятся в зачаточном состоянии, и наше дальнейшее исследование продолжит накапливать доказательства их эффективности.

7.  Какие риски или непредвиденные последствия стоит учитывать при внедрении ИИ-инструментов в финансы?

Важно, чтобы люди с низким и средним доходом не оставались за пределами внимания. Разрабатывая инструменты, необходимо учитывать возможности и способы обслуживания этой аудитории.

Существуют организации, специализирующиеся на рисках и последствиях ИИ, а также на предвзятости и точности больших языковых моделей. Кроме того, важно обеспечить релевантность финансовых рекомендаций для индивидуальных ситуаций пользователей. Финансовые институты могут повысить вовлеченность клиентов и завоевать их доверие, обеспечивая точность информации и прозрачность.

ИИ открывает уникальные возможности для людей с низким доходом получать советы и инструменты, ранее недоступные им, будь то инвестиционные или личные финансовые инструменты. Эти решения можно персонализировать под их ситуации, что создает огромные возможности для роста клиентской базы.

8.  Как финансовые организации могут измерить реальное влияние ИИ-инструментов на финансовую безопасность и благополучие пользователей?

Основные показатели — увеличение сбережений, снижение долгов, рост кредитных рейтингов при использовании этих инструментов.

Также важно оценить опыт взаимодействия с чат-ботом — повысилось ли доверие? Возрос ли интерес к продуктам, способным улучшить финансовое здоровье? Были ли предприняты действия после получения советов?

Банки могут проводить A/B-тесты среди разных групп клиентов, взаимодействующих с чат-ботами и без них, чтобы определить наличие статистически значимых различий.

* * *

9.  Какую роль играет человеческий контроль при внедрении ИИ-инструментов в финансы, и как найти баланс между автоматизацией и поддержкой человека?

Одним из способов повысить доверие к ИИ является наличие человека, доступного в нужное время. В этом помогает использование совместных помощников для сотрудников банка, которые работают с клиентами. Возможность обратиться к живому человеку повышает доверие и качество взаимодействия.

Использование разговорного ИИ позволяет сотрудникам лучше и быстрее обслуживать сложные запросы клиентов, сохраняя человеческий подход в ключевые моменты.

Прозрачность также важна для доверия: нужно знать, с кем именно вы общаетесь — с чат-ботом или реальным человеком.

* * *

10.  Какие наиболее перспективные возможности ИИ в области финансовой инклюзии на ближайшие пять лет?

Генеративный ИИ — следующая ступень развития разговорного ИИ, предлагающая персонализированное и контекстуально чувствительное взаимодействие, значительно приближающееся к человеческому обслуживанию по сравнению с большинством современных финансовых чат-ботов. Первые применения генеративного ИИ в финансах сосредоточены на бэк-офисных задачах, где есть возможность поддерживать сотрудников службы поддержки. Важная задача — понять, как генеративный ИИ может масштабировать персонализированную поддержку в финансовом секторе.

Завоевание доверия будет особенно важно для широкого внедрения генеративного ИИ, поскольку участники наших тестов и фокус-групп более скептически настроены по сравнению с традиционными чат-ботами. Тем не менее, потенциал предоставления более продвинутого уровня поддержки делает генеративный ИИ одной из самых захватывающих технологий в финсекторе. Те, кто сможет создать надежную и доверенную поддержку на базе генеративного ИИ, станут лидерами новой эпохи масштабных клиентских отношений.

Также мы видим перспективы в совместных помощниках и личных ассистентах, которые смогут предоставлять комплексные финансовые рекомендации, адаптированные под индивидуальные потребности — так называемый личный финансовый тренер. Важной ролью генеративного ИИ станет и содействие финансовому здоровью работников, предоставляя информацию и советы по сложным системам корпоративных льгот.

11.  Как вы видите роль некоммерческих организаций, таких как Commonwealth, в формировании ответственного использования ИИ в финансовых услугах?

Исторически технологии разрабатывались для богатых потребителей, зачастую игнорируя потребности семей с низким доходом. Через нашу инициативу Emerging Tech for All (ETA) мы стремимся обеспечить понимание, видимость и интеграцию потребностей уязвимых групп в дискуссии и решения. Мы находимся на важном этапе масштабирования ИИ и считаем срочным продолжать исследования и выявлять способы, как ИИ может положительно влиять на эти сообщества.

На сегодняшний день в области мало исследований и практики по этой теме, и некоторые наши собеседники отмечали необходимость проведения масштабных исследований для создания доказательной базы, которая поможет внутренне обосновать дизайн, ориентированный на LMI. Мы отвечаем на этот вызов, проводя значимые исследования и полевые тесты, демонстрирующие, как генеративный ИИ может поддерживать финансовое благополучие семей с низким доходом и укреплять бизнес-кейс для активного проектирования решений для этой аудитории.

В будущем системное влияние инклюзивного дизайна технологий будет зависеть от масштабного применения этих идей крупными игроками в сфере финансовых услуг. Для нас масштабирование инклюзивного дизайна — это использование наших исследований в партнерстве с крупными организациями, стремящимися использовать достижения ИИ для поддержки финансового здоровья своих клиентов и работников.

12.  Какой совет вы бы дали финансовым организациям, желающим использовать ИИ, сохраняя доверие и прозрачность с клиентами?

Люди с низким доходом больше хотят общаться с человеком, но у них меньше доступа к отделениям. Этот разрыв — отличная возможность для ИИ обеспечить персонализированную поддержку без необходимости увеличения числа отделений или сотрудников.

Однако для более широкого внедрения необходимо завоевать и укрепить доверие к чат-ботам у этой аудитории — часть этого зависит от качества самого опыта взаимодействия, часть — от отраслевых стандартов безопасности и доверия по мере развития технологий.

Главные опасения — безопасность и конфиденциальность данных. В целом, люди не очень доверяют разговорному ИИ в вопросах помощи, защиты данных и в интересах пользователя. Многие воспринимают ИИ с недоверием, как новую технологию, которая еще должна доказать свою ценность для них.

Прозрачные политики обработки данных, уверяющие сообщения и возможность обратиться к живому специалисту — все это поможет укрепить доверие. Разработка полезных и персонализированных взаимодействий на базе генеративного ИИ, выходящих за рамки базовых данных, таких как баланс счета или последние транзакции, также продемонстрирует ценность технологии.

Важно также подчеркнуть концепцию заслуженного доверия: цель — не просто убедить людей доверять чат-ботам, а так спроектировать их, чтобы это доверие было оправданным.