Искусственный интеллект в области соблюдения нормативных требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа в сфере комплаенса и выявления мошенничества, использующего ИИ для финансовых организаций.

Откройте для себя лучшие новости и события в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и других

Что именно проверяет ИИ в комплаенсе: технологии или нас?

В финансовых услугах комплаенс больше не является просто функцией. Это активная точка давления — место, где сталкиваются регулирование, риск и операции. По мере внедрения ИИ в эту сферу снова и снова всплывает один вопрос: в какой степени мы реально можем автоматизировать и кто остается ответственным, когда что-то идет не так?

Привлекательность ИИ в выявлении мошенничества и комплаенсе легко понять. Финансовые организации сталкиваются со все возрастающими ожиданиями: обрабатывать огромные объемы данных, реагировать на меняющиеся угрозы и соблюдать меняющиеся требования — и все это, не жертвуя скоростью или точностью. Автоматизация, особенно когда она основана на машинном обучении, дает способ снизить операционную нагрузку. Но она также поднимает более глубокие вопросы о управлении, объяснимости и контроле.

Эти противоречия не теоретические. Они разворачиваются в реальном времени, когда финансовые компании внедряют ИИ-модели в роли, которые традиционно выполняли аналитики-люди. За кулисами появляются новые риски: ложные срабатывания, «слепые зоны» при аудитах и алгоритмические решения, остающиеся непрозрачными как для пользователей, так и для регуляторов.

В то же время специалистов по комплаенсу просят менять роли. Вместо того чтобы вручную проверять каждую транзакцию, они теперь надзирают за инструментами, которые это делают. Такое переосмысление — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ умеет масштабировать анализ данных. Он может отмечать несоответствия. Но он не может полностью объяснить намерения, интерпретировать контекст или принять на себя вину.

Понимание этих ограничений критически важно. И немногие люди лучше всего подходят, чтобы исследовать это, чем Роман Элошвили, основатель британской компании в области комплаенс-технологий ComplyControl. Его работа находится прямо на стыке риска, автоматизации и надзора — там, где алгоритмическая эффективность встречается с регуляторным вниманием.

Более чем за десять лет в этой сфере Роман на собственном опыте увидел, как команды комплаенса развиваются и как ИИ меняет и их рабочие процессы, и их ответственность. Он утверждает, что обещание ИИ заключается не в устранении человеческих ролей, а в их переформатировании — привнося новую ясность в то, что должны делать машины, и что люди по-прежнему обязаны оставлять за собой.

Этот переход требует большего, чем технические обновления. Он предполагает культурную настройку вокруг ответственности. Прозрачные системы, поддающиеся аудиту процессы и четко распределенная человеческая ответственность — больше не просто функции; это минимальный стандарт. Когда ИИ внедряется в критически важную инфраструктуру, он не просто решает проблемы. Он вводит новый класс решений, который требует активного, стратегического попечительства.

В этом разговоре для FinTech Weekly Роман предлагает приземленный взгляд на то, что нужно, чтобы ответственно интегрировать ИИ в комплаенс и предотвращение мошенничества. Его позиция не рассматривает автоматизацию как неизбежность — а как выбор, который требует постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где действительно находится доверие.

Мы рады поделиться его выводами в то время, когда многие в финтехе спрашивают не «следует ли внедрять ИИ», а «как сделать это, не теряя из виду стандарты, благодаря которым в первую очередь работают финансовые системы».

1. Вы построили карьеру на пересечении комплаенса и технологий. Можете вспомнить момент, когда вы поняли, что ИИ может фундаментально изменить подход к управлению рисками?

Я бы не сказал, что это был какой-то один конкретный момент, который изменил все. Скорее это был растянутый во времени процесс. Я потратил значительную часть своей карьеры на работу с давно существующими европейскими банками, и одно я постоянно замечал: многие из них сильно отставали, когда речь шла о решениях для цифрового банкинга. Контраст особенно хорошо был заметен по сравнению с более продвинутыми финтех-хабами.

Несколько лет назад, когда тема разработки ИИ снова начала активно набирать обороты, у меня естественным образом появилось любопытство, и я в это углубился. И когда я изучал технологию и то, как она работает, я понял: искусственный интеллект потенциально способен радикально изменить способ, которым банки ведут свой комплаенс, выводя их ближе к современным, более гибким игрокам финтеха.

Именно это привело меня к запуску моей компании в 2023 году. Сложность комплаенса и управления рисками растет только из года в год. Столкнувшись с этой реальностью, наша миссия проста: внедрять решения, основанные на ИИ, для финансовых компаний и помогать им эффективнее справляться с такими растущими вызовами.

2. С вашей профессиональной точки зрения, как менялась роль специалистов-людей по мере того, как ИИ-инструменты становились более продвинутыми в комплаенсе и выявлении мошенничества?

Прежде чем сказать что-либо еще, давайте сразу проясню один момент. Во многих сферах есть распространенная тревога: заменит ли ИИ работников-людей. И что касается специалистов по комплаенсу и рискам, мой ответ — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу отрасль, он пока далек от безошибочности. Поэтому участие людей остается критически важным фактором. Регуляторные требования в комплаенсе постоянно меняются, и кто-то должен уметь взять ответственность, когда системы не справляются или допускают ошибки. На текущем уровне развития ИИ все еще испытывает трудности с тем, чтобы ясно объяснять свои решения, поэтому он не готов оставаться наедине с задачей. Особенно в сфере, где доверие и прозрачность имеют первостепенное значение.

Тем не менее ИИ активно делает процессы комплаенса проще. Например, в зависимости от настройки ИИ-системы могут теперь выявлять подозрительные транзакции или даже временно блокировать их, запрашивая дальнейшую верификацию. Нет необходимости, чтобы реальные люди вручную просматривали каждую мелочь, если только что-то действительно не выглядит странным. И по мере развития таких систем они будут продолжать снижать потребность в ручной работе, позволяя командам фокусироваться на более тонких задачах, которые действительно требуют человеческого подхода.

Я считаю, что мы увидим рост гибридной модели, где эксперты по комплаенсу будут все более уверенно и профессионально использовать ИИ-инструменты. Они будут теми, кто внедряет и поддерживает ИИ-системы, а сам ИИ будет упрощать их работу, разбираясь в сложных данных и выдавая рекомендации. Однако окончательное решение все равно останется за людьми.

3. Когда вы работаете с ИИ в чувствительных областях, таких как финансовый комплаенс, как вы лично подходили к задаче сохранения доверия и подотчетности в процессе принятия решений?

Конечно. Как я уже упоминал: когда вы используете ИИ в комплаенсе, доверие имеет решающее значение.

Именно поэтому мы построили наши ИИ-системы так, чтобы они были полностью прозрачными. Они не работают как «черный ящик» — каждую рекомендацию, которую выдает система, можно проследить по правилам и данным. Мы ведем полный журнал аудита того, как принимается каждое решение, чтобы его можно было полностью объяснить. Этот подход уже доказал свою невероятную ценность при взаимодействии с регуляторами.

Окончательный звонок всегда остается за сотрудником по комплаенсу. ИИ лишь предлагает обоснованную рекомендацию, которую человек затем может легко проверить и решить — одобрять ее или отклонять.

4. Ваш опыт охватывает более 10 лет. Как менялось ваше отношение к автоматизации и человеческому надзору на протяжении карьеры, особенно сейчас, когда ИИ становится более автономным?

Определенно. Если говорить шире о состоянии внедрения ИИ: чем дальше развивается эта технология, тем большую автономность мы постепенно допускаем — при условии, что она тщательно протестирована и продолжает доказывать надежность.

Но меняется и то, какую роль играет специалист- человек в этой цепочке. Вместо микроуправления каждым случаем сотрудники по комплаенсу все чаще становятся стратегическими надзирателями. Они могут в короткие сроки просматривать целые партии похожих кейсов, валидировать работу системы и точнее настраивать модели на основе результатов.

Иными словами, де-факто роль сотрудников по комплаенсу переходит от выполнения работы вручную к управлению ИИ-системами по мере того, как они делают работу за них.

5. Работа в управлении рисками, опирающемся на ИИ, означает навигацию по сложным этическим вопросам. Как вы лично разработали рамку для принятия ответственных решений при проектировании или внедрении ИИ-решений?

Мы выстроили наш подход вокруг двух ключевых идей: четкий надзор и принципы Responsible AI. В каждой модели, которую мы используем, есть назначенный ответственный. Оценки рисков, обзоры производительности и проверки комплаенса выполняются регулярно.

Мы также следим за тем, чтобы наши системы поддавались аудиту. Если алгоритм принимает решение, этот процесс можно проверить и верифицировать. Такая прозрачность — фундаментальная часть нашей приверженности разработке ответственного ИИ.

6. На вашем пути: какой самый сложный профессиональный урок вы усвоили о границах — или рисках — когда слишком сильно полагаются на автоматизацию в критически важных областях вроде предотвращения мошенничества?

Один урок, который мы точно должны держать в голове: даже хорошо обученные модели все еще могут «галлюцинировать» — то есть ошибаться, причем иногда в тонких, но серьезных вещах.

ИИ может пропускать сложные схемы мошенничества или, наоборот, слишком часто запускать ложные тревоги. Именно поэтому так важно сочетать ИИ с человеческой экспертизой: люди привносят гибкое суждение и лучше оценивают этику и общий контекст там, где ИИ не способен.

Баланс между этими двумя обещаниями дает более качественные, более надежные результаты. ИИ можно использовать, чтобы покрывать огромный объем задач и уменьшать сложность, а люди, в свою очередь, нужны для поддержания соответствующего уровня точности и доверия.

7. Для молодых специалистов, которые сегодня приходят в комплаенс, управление рисками или разработку ИИ: какие личные принципы или привычки вы бы посоветовали им развивать, чтобы добиться успеха и адаптироваться к такой быстро меняющейся среде?

Прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет кнопки «пауза», и вам нужно успевать — иначе вас обгонят. Здесь нет промежуточного варианта.

Второе: думайте широко. По мере развития ИИ границы между ролями размываются — технологии, финансы и регулирование превращаются в смешанный «набор». Я убежден, что широкие компетенции и открытый взгляд будут определяющими качествами для будущих специалистов в этой сфере.

Третье — и естественное продолжение двух предыдущих — будьте адаптивными. Изменения постоянны, и способность быстро корректироваться будет для вас большим преимуществом.

И наконец: развивайте сильные навыки коммуникации и учитесь быть командным игроком. Как мы уже обсудили, комплаенс находится на стыке бизнеса, технологий и права. Поэтому умение переключать режим и разговаривать с людьми из всех этих областей — ценный навык, который стоит развивать.