Почему живая структура лежит в основе стимулирования инноваций в Fintech

_Имран Афтаб, сооснователь и генеральный директор 10Pearls.

Откройте для себя главные новости и события в сфере финтеха!

Подпишитесь на рассылку FinTech Weekly

Читается руководителями JP Morgan, Coinbase, Blackrock, Klarna и другими

Финансы всегда были оплотом цифровых инноваций, и нынешняя волна ИИ не стала исключением. Отрасль, испытывающая растущее давление, требуя предоставлять клиентам более быстрые, персонализированные и эффективные цифровые сервисы, не может обойтись без внедрения передовых технологий.

По мере того как финтех-компании переходят от экспериментов с ИИ к встраиванию его в свои ключевые стратегии, вопрос уже не в ценности, которую приносит ИИ, а в том, как управлять им в долгосрочной перспективе. Без четких руководящих принципов, заложенных в централизованную структуру, финтехи быстро столкнутся с рисками репутационного, регуляторного и security-характера.

Живая система управления не только охватывает все аспекты, но и делает это, успевая за меняющимися стратегиями. Она стимулирует инновации, а не сдерживает их, не ставя при этом под угрозу сам финтех.

Баланс между справедливостью и точностью

Стремительная цифровизация финансовых услуг также создает новые возможности для потенциального мошенничества и кибератак. Однако неуправляемый ИИ часто страдает от галлюцинаций и предвзятости — это означает, что системы, призванные защищать владельцев счетов, могут ошибочно помечать их как подозрительных.

Финтехи должны гарантировать, что ИИ-системы работают стабильно и соответствуют стандартам производительности. Плохое управление данными — краеугольный камень неуправляемого ИИ, который ведет к катастрофическим последствиям. Дело не просто в действии в реальном времени, а в точности и справедливости этих действий. Если данные, на которых обучаются такие системы, не управляются должным образом, внедрение обречено на провал.

Представьте систему ИИ, основанную на плохо управляемых и искаженных данных, которая ошибочно пометила легитимную крупную транзакцию как мошенническую, основываясь на почтовом индексе владельца счета. Некоторые демографические группы выделяются на основе неточных исторических данных, что лишь усиливает предвзятость против отдельных лиц или групп. Дискриминация не только подрывает доверие и отношения, но и имеет долгосрочные последствия для репутации учреждения, особенно поскольку она напрямую нарушает законы о защите прав потребителей. Финтехи несут юридическую ответственность за справедливое и безопасное использование данных на протяжении всего жизненного цикла ИИ-системы, и при возникновении нарушений под вопрос ставятся не сами инструменты, а команды, которые их используют.

Последствия этим не ограничиваются. Подобные сценарии создают дополнительную нагрузку на команды, которым приходится вмешиваться, тратя драгоценные рабочие часы и ресурсы. Что еще более важно, они выявляют серьезные пробелы в существующей базе. Неуправляемые данные — это слабое место в цифровой структуре финтеха, делающее его уязвимым для реального мошенничества и киберугроз.

Живая система управления противодействует этим рискам, поскольку требует непрерывного мониторинга, тестирования и перенастройки ИИ-моделей. Это позволяет финансовым провайдерам постоянно повышать надежность своей безопасности, а также регулярно оценивать и обновлять системы по мере изменения данных и рисков. Одновременно устраняется предвзятость, уступая место справедливости и точности на всех уровнях.

Обеспечение объяснимости и прозрачности

Финтехи, следующие живой системе управления, не допускают, чтобы ИИ работал как черный ящик, чьи внутренние механизмы остаются загадкой для команд и пользователей. Владельцы счетов, сотрудники и регулирующие органы требуют уверенности в виде объяснимости и прозрачности любой интегрированной технологии.

Устранение предвзятости требует понимания того, как и почему ИИ-инструмент принял то или иное решение. Системы ИИ сейчас используются в таких процессах, как кредитный скоринг, но, к сожалению, они не застрахованы от предвзятости. Последствия этого серьезны: дискриминация, особенно в отношении меньшинств, которым непропорционально часто отказывают в кредитах из-за ошибочного ИИ. Нормативные акты, такие как CFPB и законы о справедливом кредитовании, требуют объяснимости и отслеживаемости ИИ-инструментов, используемых в финансовых услугах. Они также требуют исключения предвзятости из уравнения.

В модели живого управления объяснимость и отслеживаемость встроены в каждый вариант использования и рабочий процесс:

• Источники и места назначения данных четко регистрируются.
• Все изменения моделей, тесты и наблюдения записываются.
• Логика принятия решений разъясняется таким образом, чтобы и регулирующие органы, и клиенты (а не только операторы) понимали, как и почему ИИ-система пришла к рекомендации или действию.

Гарантия соблюдения требований ПОД

Финансовые учреждения обращаются к автоматизации и ИИ для мониторинга подозрительных транзакций и активности в рамках систем противодействия отмыванию денег. Однако при отсутствии надлежащего контроля за ИИ возникают две проблемы:

• Ложные срабатывания: легитимные транзакции ошибочно помечаются, что приводит к недовольству клиентов и напрасной трате ценного персонала.
• Пропуски угроз: реальные угрозы остаются незамеченными, ставя под удар целые наборы данных и цифровые системы, подвергая риску репутацию организации и разрушая доверие.

При подходе «управление как защитные барьеры» эти риски минимизируются благодаря хорошо управляемым, прозрачным и проверяемым данным. Также интегрируются четкие оповещения с немедленными практическими рекомендациями для быстрого вмешательства при необходимости.

Поскольку ИИ-решения продолжают развиваться, адаптируемые живые системы управления становятся все более необходимыми. Они не только защищают учреждения и частных лиц от потенциальных рисков, связанных с использованием ИИ, но и дают финтехам значительное конкурентное преимущество. Эти системы предоставляют им средства для укрепления доверия и повышения репутации за счет подотчетного управления, справедливости и прозрачности, а также гарантируют надежность и производительность.