Почему живой фреймворк лежит в основе продвижения инноваций в финтехе

Имран Афтаб, сооснователь и генеральный директор 10Pearls.

Откройте для себя лучшие новости и мероприятия в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и др.

Финансы всегда были опорой цифровых инноваций, и недавняя волна ИИ доказывает, что исключений нет. Будучи отраслью, на которую растет давление с целью обеспечивать клиентам более быстрые, более персонализированные и эффективные цифровые сервисы, внедрение передовых технологий является обязательным условием.

Поскольку финтех-компании выходят за рамки экспериментов с ИИ и встраивают его в свои ключевые стратегии, вопрос заключается не в том, какую ценность дает ИИ, а в том, как им управляют со временем. Без четких руководящих принципов, встроенных в центральную рамочную модель, финтех-компании быстро столкнутся с рисками с точки зрения репутации, регулирования и безопасности.

Живая рамочная модель покрывает все стороны, и делает это, не отставая от меняющихся стратегий. Она продвигает инновации, а не сдерживает их — и при этом не ставит финтех-компании в уязвимое положение.

Нахождение баланса между справедливостью и точностью

Быстрая цифровизация финансовых услуг также создает больше возможностей для потенциального мошенничества и кибератак. Однако неконтролируемый ИИ часто становится жертвой галлюцинаций и предвзятости — то есть держателей счетов могут ошибочно отмечать именно те системы, которые предназначены для их защиты.

Финтех-компании должны гарантировать, что ИИ-системы работают стабильно и соответствуют стандартам производительности. Плохое управление данными — это краеугольный камень неконтролируемого ИИ, который разрастается до катастрофических последствий. Дело не только в том, чтобы действовать в режиме реального времени, но и в том, чтобы делать это точно и справедливо. Когда данные, на основе которых принимаются решения этими системами, управляются неправильно, развертывание обречено на провал.

Представьте ИИ-систему, получившую неверные сведения из плохо управляемых и искаженных данных, которая по ошибке пометила законную крупную транзакцию как мошенничество на основе почтового индекса держателя счета. Определенные демографические группы выделяются на основе неточных исторических данных — и этим лишь усиливается предвзятость по отношению к людям или группам. Дискриминация не только разрушает доверие и отношения, но и имеет долгосрочные последствия для репутации учреждения, особенно поскольку напрямую нарушает законы о защите потребителей. У финтех-компаний есть юридическая обязанность справедливо и безопасно использовать данные на протяжении жизненного цикла ИИ-системы, и дело не в том, какие инструменты ставятся под вопрос, когда происходят нарушения, а в командах, которые ими пользуются.

Последствия усугубляются и дальше. Эти сценарии создают дополнительную нагрузку на команды, которым затем приходится вмешиваться, впустую расходуя драгоценные человеческие ресурсы и время. Ключевым образом они также выявляют серьезные пробелы в существующей основе. Неконтролируемые данные — это слабое место в цифровой ткани финтеха, из-за чего он становится уязвимым для реального мошенничества и угроз кибербезопасности.

Живая модель управления снижает эти риски, потому что требует постоянного мониторинга, тестирования и перенастройки моделей ИИ. Это позволяет финансовым провайдерам постоянно максимально повышать надежность своей защиты, регулярно оценивая и обновляя системы по мере того, как меняются данные и риски. Одновременно предвзятость выявляется и устраняется, обеспечивая справедливость и точность на всем протяжении.

Обеспечение объяснимости и прозрачности

Финтех-компании, следующие живой рамочной модели, не позволяют ИИ работать как «черный ящик», где внутреннее устройство неизвестно и командам, и пользователям. Держатели счетов, сотрудники и регулирующие органы нуждаются в уверенности — в виде объяснимости и прозрачности по поводу любой встроенной технологии.

Чтобы устранить предвзятость, необходимо понимать, как и почему ИИ-инструмент принял то или иное решение. ИИ-системы теперь используются в процессах вроде кредитного скоринга, но, к сожалению, они не застрахованы от предвзятости. Последствия этого серьезны: дискриминация, особенно в отношении групп меньшинств, которым непропорционально часто отказывают в кредитах из-за ошибочного ИИ. Регулирование вроде требований CFPB и законов о добросовестном кредитовании (Fair Lending) требует объяснимости и прослеживаемости ИИ-инструментов, применяемых в финансовых услугах. Также требуется, чтобы предвзятость убиралась из уравнения.

В живой модели управления объяснимость и прослеживаемость встраиваются в каждый use case и рабочий процесс:

*   Источники данных и пункты назначения четко фиксируются в логах.
*   Все изменения моделей, тесты и наблюдения записываются.
*   Логика принятия решений доводится до сведения так, чтобы регуляторы и клиенты, а не только операторы, понимали, как и почему ИИ-система выдала рекомендацию или предприняла действие.

Гарантирование соответствия AML

Финансовые учреждения обращаются к автоматизации и ИИ, чтобы отслеживать подозрительные транзакции и активность в рамках систем противодействия отмыванию денег. Однако когда ИИ должным образом не курируется или не управляется, возникают две проблемы:

*   Ложные срабатывания: законные транзакции ошибочно помечаются, что приводит к разочарованию клиентов и пустой трате драгоценных человеческих ресурсов.
*   Пропуски реальных угроз: реальные риски не выявляются, ставя под угрозу целые массивы данных и цифровые системы, подвергая организацию риску в части репутации и разрушая доверие.

При подходе «управление через защитные ограждения» эти риски минимизируются за счет корректно управляемых, прозрачных и поддающихся аудиту данных. Также четкие оповещения интегрируются с немедленно применимыми выводами, чтобы обеспечить быстрое вмешательство при необходимости.

Поскольку решения на основе ИИ продолжают развиваться, адаптируемые живые рамочные модели становятся все более необходимыми. Они не только защищают учреждения и отдельных людей от потенциальных рисков, связанных с участием ИИ, но и дают финтех-компаниям существенное конкурентное преимущество. Эти рамочные модели обеспечивают им инструменты для укрепления доверия и повышения репутации за счет подотчетного управления, справедливости и прозрачности, а также за счет обеспечения надежности и производительности.