Почему живой каркас лежит в основе продвижения инноваций в финтехе

Имран Афтеб, соучредитель и генеральный директор 10Pearls.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансы всегда были сторонником цифровых инноваций, и недавняя волна ИИ не исключение. Как отрасль, которая все больше подвержена давлению для предоставления более быстрых, персонализированных и эффективных цифровых решений клиентам, внедрение передовых технологий — обязательное условие.

По мере того как финтех-компании переходят от экспериментов с ИИ к его интеграции в свои основные стратегии, вопрос уже не о ценности, которую он приносит, а о том, как он управляется со временем. Без четких руководящих принципов, встроенных в центральную структуру, финтехи быстро столкнутся с рисками с репутационной, регуляторной и безопасности сторон.

Живая рамочная модель не только охватывает все аспекты, но и делает это, не отставая от развития стратегий. Она стимулирует, а не ограничивает инновации — при этом не компрометируя финтехи.

Баланс между справедливостью и точностью

Быстрая цифровизация финансовых услуг также создает больше возможностей для потенциальных мошенничеств и кибератак. Однако неуправляемый ИИ часто подвержен галлюцинациям и предвзятости — что означает, что держатели счетов могут ошибочно быть помечены системами, созданными для их защиты.

Финтехи должны обеспечить стабильную работу систем ИИ и соответствие стандартам производительности. Плохое управление данными — краеугольный камень неуправляемого ИИ, что приводит к катастрофическим последствиям. Это не просто вопрос работы в реальном времени, а выполнения задач точно и справедливо. Когда данные, информирующие эти системы, управляются неправильно, внедрение обречено на провал.

Рассмотрим систему ИИ, неправильно информированную из-за плохо управляемых и искаженных данных, которая ошибочно пометила крупную законную транзакцию как мошенничество на основе почтового индекса держателя счета. Некоторые демографические группы выделяются на основе неточных исторических данных, что только усиливает предвзятость против отдельных лиц или групп. Дискриминация не только разрушает доверие и отношения, но и имеет долгосрочные последствия для репутации учреждения, особенно поскольку она прямо нарушает законы о защите потребителей. Финтехи обязаны справедливо и безопасно использовать данные на протяжении всего жизненного цикла системы ИИ, и не инструменты вызывают вопросы, а команды, их использующие.

Последствия выходят за рамки этого. Такие сценарии создают дополнительное давление на команды, которым приходится вмешиваться, тратя драгоценное время и ресурсы. Важно отметить, что они также выявляют серьезные пробелы в существующей базе. Неуправляемые данные — слабое место цифровой инфраструктуры финтеха, делая его уязвимым для реальных мошенничеств и киберугроз.

Живая рамочная модель управления противодействует этим рискам, поскольку требует постоянного мониторинга, тестирования и перенастройки моделей ИИ. Это позволяет финансовым провайдерам постоянно повышать уровень безопасности, регулярно оценивая и обновляя системы по мере изменения данных и рисков. Одновременно устраняется предвзятость, создавая условия для справедливости и точности.

Обеспечение объяснимости и прозрачности

Финтехи, использующие живую рамочную модель, предотвращают работу ИИ как черного ящика, где его внутренние механизмы остаются загадкой для команд и пользователей. Держатели счетов, сотрудники и регуляторы требуют уверенности в виде объяснимости и прозрачности любой интегрированной технологии.

Устранение предвзятости требует понимания того, как и почему ИИ-программа пришла к определенному решению. Сейчас системы ИИ используются в таких процессах, как кредитное скорингование, но, к сожалению, они не застрахованы от предвзятости. Последствия этого серьезны: дискриминация, особенно против меньшинств, которым отказывают в кредитах из-за ошибок ИИ. Регуляции, такие как CFPB и законы о справедливом кредитовании, требуют объяснимости и прослеживаемости используемых в финансовых услугах ИИ-инструментов. Они также требуют устранения предвзятости из уравнения.

В модели живого управления объяснимость и прослеживаемость встроены в каждый сценарий использования и рабочий процесс:

*   Источники и назначения данных четко регистрируются.  
*   Все изменения моделей, тесты и наблюдения записываются.  
*   Логика принятия решений доводится до сведения регуляторов и клиентов, а не только операторов, чтобы понять, как и почему система ИИ пришла к рекомендации или действию.

Гарантия соответствия AML

Финансовые учреждения используют автоматизацию и ИИ для мониторинга подозрительных транзакций и деятельности в рамках систем противодействия отмыванию денег. Однако при неправильном контроле или управлении ИИ возникают две проблемы:

*   Ложные срабатывания: законные транзакции ошибочно помечаются, вызывая разочарование клиентов и потерю времени и ресурсов.
*   Ложные отрицания: реальные угрозы пропускаются, что ставит под угрозу целые базы данных и цифровые системы, а также репутацию организации и доверие клиентов.

При подходе с управлением как с защитными барьерами эти риски минимизируются за счет хорошо управляемых, прозрачных и поддающихся аудиту данных. Также внедряются четкие оповещения с немедленными действенными рекомендациями для быстрого реагирования при необходимости.

По мере развития решений ИИ становится все более необходимым использование адаптивных, живых рамочных моделей. Они не только защищают учреждения и отдельных лиц от потенциальных рисков, связанных с участием ИИ, но и дают финтехам значительное конкурентное преимущество. Эти рамочные модели позволяют повысить доверие и укрепить репутацию за счет ответственного управления, справедливости и прозрачности, а также обеспечивают надежность и эффективность.