Почему живой фреймворк лежит в основе продвижения инноваций в финтехе

Имран Афтаб, сооснователь и генеральный директор 10Pearls.

Откройте для себя лучшие новости и мероприятия в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и других

Финансы всегда были проводником цифровых инноваций, и недавняя волна ИИ не является исключением. Как отрасль, которая испытывает все большее давление, чтобы обеспечивать клиентам более быстрые, более персонализированные и эффективные цифровые опыты, внедрение передовых технологий — это обязательное условие.

Когда финтехи выходят за рамки экспериментов с ИИ и внедряют его в свои ключевые стратегии, вопрос не в том, какую ценность ИИ дает, а в том, как он управляется со временем. Без четких руководящих принципов, встроенных в центральную рамочную модель, финтехи быстро столкнутся с рисками с репутационной, регуляторной и точки зрения безопасности.

Живая рамочная модель охватывает все аспекты и при этом идет в ногу с развивающимися стратегиями. Она не сдерживает инновации — а ускоряет их, не ставя под угрозу финтехи в процессе.

Нахождение баланса между справедливостью и точностью

Быстрая цифровизация финансовых услуг также создает больше возможностей для потенциального мошенничества и кибератак. Однако неуправляемый ИИ часто становится жертвой галлюцинаций и предвзятости — то есть держателей счетов могут ошибочно помечать именно те системы, которые предназначены для их защиты.

Финтехам необходимо гарантировать, что ИИ-системы работают последовательно и соответствуют требованиям по производительности. Плохое управление данными — краеугольный камень неуправляемого ИИ, который затем лавинообразно приводит к катастрофическим последствиям. Дело не в том, чтобы просто действовать в реальном времени, а в том, чтобы делать это точно и справедливо. Когда данные, на основе которых принимаются решения этими системами, управляются неправильно, развертывание обречено на провал.

Представьте ИИ-систему, получившую неверные сведения из неправильно управляемых и перекошенных данных, которая по ошибке пометила законную крупную транзакцию как мошенничество на основе почтового индекса держателя счета. Определенные демографические группы выделяются на основе неточных исторических данных, что лишь усиливает предвзятость в отношении отдельных людей или групп. Дискриминация не только разрушает доверие и отношения, но и имеет долгосрочные последствия для репутации организации, особенно когда напрямую нарушаются законы о защите потребителей. У финтехов есть юридическая обязанность справедливо и безопасно использовать данные на протяжении всего жизненного цикла ИИ-системы, и под вопросом не только инструменты, которые привлекают к ответственности в момент нарушений, а команды, которые ими пользуются.

Последствия усугубляются и дальше. Эти сценарии создают дополнительную нагрузку на команды, которым затем приходится вмешиваться, впустую тратя драгоценные ресурсы людей и времени. Критически важно и то, что они также выявляют серьезные пробелы в существующей основе. Неконтролируемые данные — это слабое место в цифровой ткани финтеха, из-за чего он становится уязвимым для реального мошенничества и угроз кибербезопасности.

Живая модель управления снижает эти риски, поскольку требует непрерывного мониторинга, тестирования и перенастройки моделей ИИ. Это позволяет финансовым провайдерам постоянно максимизировать надежность своей защиты, регулярно оценивая и обновляя системы по мере того, как меняются данные и риски. Одновременно устраняется предвзятость, открывая путь справедливости и точности во всем.

Обеспечение объяснимости и прозрачности

Финтехи, придерживающиеся живой рамочной модели, не дают ИИ работать как «черный ящик», когда его внутреннее устройство — загадка и для команд, и для пользователей. Держателям счетов, сотрудникам и регуляторным органам требуется уверенность в виде объяснимости и прозрачности относительно любых встроенных технологий.

Чтобы искоренить предвзятость, нужно понимать, как и почему инструмент ИИ пришел к решению. Сегодня ИИ-системы используются в процессах вроде скоринга по кредитам, но, к сожалению, они не застрахованы от предвзятости. Последствия этого серьезны: дискриминация, особенно в отношении групп меньшинств, которым непропорционально часто отказывают в кредитах из-за ошибочного ИИ. Регулирования вроде CFPB и законов о справедливом кредитовании требуют объяснимости и прослеживаемости инструментов ИИ, используемых в финансовых услугах. Они также требуют, чтобы предвзятость была исключена из уравнения.

В живой модели управления объяснимость и прослеживаемость встроены в каждый сценарий использования и рабочий процесс:

*   Источники и назначения данных явно фиксируются.
*   Все изменения модели, тесты и наблюдения документируются.
*   Логика принятия решений доводится до сведения так, чтобы регуляторы и клиенты — а не только операторы — понимали, как и почему ИИ-система пришла к рекомендации или действию.

Гарантируем соблюдение AML

Финансовые учреждения обращаются к автоматизации и ИИ, чтобы отслеживать подозрительные транзакции и активность в рамках систем противодействия легализации доходов, полученных преступным путем. Однако когда ИИ не находится надлежащим образом под надзором или управлением, возникают две проблемы:

*   Ложноположительные срабатывания: законные транзакции ошибочно помечаются, что приводит к разочарованию клиентов и напрасной трате драгоценного человеческого ресурса.
*   Ложноотрицательные срабатывания: реальные угрозы пропускаются, что ставит под риск целые массивы данных и цифровые системы, выводит репутацию организации на линию огня и разрушает доверие.

При подходе «управление как направляющие ограждения» эти риски минимизируются благодаря хорошо управляемым, прозрачным и поддающимся аудиту данным. Кроме того, четкие оповещения интегрируются с немедленными практическими выводами, чтобы обеспечить быстрое вмешательство при необходимости.

По мере того как решения на базе ИИ продолжают развиваться, все более необходимыми становятся адаптируемые, живые рамочные модели. Они не только защищают учреждения и отдельных людей от потенциальных рисков, связанных с участием ИИ, но и предоставляют финтехам существенное конкурентное преимущество. Эти рамочные модели дают им инструменты для укрепления доверия и повышения репутации за счет подотчетного управления, справедливости и прозрачности, а также обеспечения надежности и производительности.