Искусственный интеллект в области соблюдения нормативных требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа по комплаенсу и обнаружению мошенничества с поддержкой ИИ для финансовых организаций.

Узнайте главные новости и события в финтехе!

Подпишитесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и др.

Что ИИ в комплаенсе на самом деле тестирует: технологию или нас?

В финансовых услугах комплаенс больше не является просто функцией. Это активная точка давления — там, где пересекаются регулирование, риски и операции. Когда в эту сферу внедряются технологии ИИ, снова и снова возникает один вопрос: насколько мы можем действительно автоматизировать и кто несет ответственность, если что-то пойдет не так?

Привлекательность ИИ для выявления мошенничества и комплаенса понятна. Финансовые организации сталкиваются с растущими ожиданиями: нужно обрабатывать огромные объемы данных, реагировать на развивающиеся угрозы и соблюдать меняющиеся требования — при этом не жертвуя скоростью или точностью. Автоматизация, особенно основанная на машинном обучении, дает способ снизить операционную нагрузку. Но это также поднимает более глубокие вопросы о управляемости, объяснимости и контроле.

Эти противоречия не теоретические. Они разворачиваются в реальном времени: финансовые компании внедряют модели ИИ в роли, которые ранее традиционно занимали аналитики-люди. За кулисами возникают новые риски: ложные срабатывания, «слепые зоны» аудита и алгоритмические решения, которые остаются непрозрачными как для пользователей, так и для регуляторов.

При этом специалистов по комплаенсу просят менять роли. Вместо того чтобы вручную проверять каждую транзакцию, они теперь курируют те инструменты, которые это делают. Такое переосмысление — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ способен масштабировать анализ данных. Он может отмечать несоответствия. Но он не может полностью объяснить намерение, интерпретировать контекст или взять на себя вину.

Понимание этих ограничений критически важно. И немногие люди лучше подходят для того, чтобы исследовать это, чем Роман Элошвили, основатель британской компании по комплаенс-технологиям ComplyControl. Его работа находится ровно на пересечении риска, автоматизации и надзора — там, где алгоритмическая эффективность сталкивается с регуляторной проверкой.

Более чем за десятилетие в этой сфере Роман на собственном опыте увидел, как развиваются команды комплаенса и как ИИ меняет и их рабочие процессы, и их ответственность. Он утверждает, что обещание ИИ заключается не в том, чтобы устранять человеческие роли, а в том, чтобы переформатировать их — привнести новую ясность в то, чем должны заниматься машины, и что по‑прежнему обязаны оставаться «в собственности» у людей.

Этот сдвиг требует не только технических обновлений. Он предполагает культурную переориентацию на подотчетность. Прозрачные системы, поддающиеся аудиту процессы и четко распределенная человеческая ответственность — это больше не просто «функции», а минимальный стандарт. Когда ИИ внедряется в критически важную инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, требующих активного, стратегического попечительства.

В этом разговоре для FinTech Weekly Роман дает приземленный взгляд на то, что нужно, чтобы ответственно интегрировать ИИ в комплаенс и предотвращение мошенничества. Его позиция не рассматривает автоматизацию как неизбежность, а как выбор — тот, который требует постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где на самом деле находится доверие.

Мы рады поделиться его выводами в тот момент, когда многие в финтехе задаются не вопросом «нужно ли внедрять ИИ», а вопросом — как сделать это, не теряя из виду те стандарты, благодаря которым финансовые системы работают прежде всего.

1. Вы построили карьеру на стыке комплаенса и технологий. Можете вспомнить момент, когда вы поняли, что ИИ способен фундаментально изменить подход к управлению рисками?

Я бы не сказал, что это был какой-то один конкретный момент, который изменил всё. Скорее, это был растянутый во времени процесс. Я провел значительную часть своей карьеры, работая с хорошо зарекомендовавшими себя европейскими банками, и одна вещь, которую я постоянно замечал, — многие из них были далеко позади, когда речь шла о цифровых банковских решениях. Контраст был особенно заметен по сравнению с более продвинутыми финтех-хабами.

Несколько лет назад, когда тема разработки ИИ снова начала активно подогреваться, мне естественно стало любопытно, и я погрузился в это. И когда я изучал технологию и то, как она работает, я понял, что искусственный интеллект способен кардинально изменить то, как банки выстраивают свой комплаенс, выводя их ближе к современным, более гибким игрокам в финтехе.

Именно это привело меня к запуску моей компании в 2023 году. Сложность комплаенса и управления рисками продолжает расти год за годом. С учетом этой реальности наша миссия проста: приносить компаниям в финансовом секторе решения на базе ИИ и помогать им более эффективно справляться с такими нарастающими вызовами.

2. С вашей профессиональной точки зрения, как менялась роль специалистов-людей по мере того, как инструменты ИИ становились более продвинутыми в комплаенсе и обнаружении мошенничества?

Прежде чем сказать что-то еще, позвольте сразу обратиться к одному моменту. Есть распространенная обеспокоенность во многих сферах: что ИИ заменит работников‑людей. И что касается специалистов по комплаенсу и рискам, мой ответ — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу отрасль, он еще далек от совершенства и надежности. Поэтому участие человека остается критически важным фактором. Нормативные требования по комплаенсу меняются постоянно, и кто-то должен уметь нести ответственность, когда системы не справляются или допускают ошибки. На текущем уровне развития ИИ всё еще испытывает сложности с тем, чтобы ясно объяснять свои решения, так что его нельзя оставлять полностью одного. Особенно в сфере, где доверие и прозрачность имеют первостепенное значение.

Тем не менее ИИ активно делает процессы комплаенса проще. Например, в зависимости от конфигурации системы ИИ уже могут отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дополнительную верификацию. Нет необходимости реальным людям вручную просматривать каждую деталь, если только что-то действительно не выглядит странно. И по мере того как эти системы развиваются, они будут продолжать сокращать потребность в ручной работе, позволяя командам больше сосредотачиваться на тех нюансных задачах, которые действительно требуют человеческого подхода.

Я думаю, что мы увидим рост гибридной модели, где эксперты по комплаенсу будут всё более уверенно и профессионально пользоваться инструментами ИИ. Они будут теми, кто внедряет и поддерживает системы ИИ, в то время как сам ИИ будет упрощать их работу — осмысляя сложные данные и предоставляя рекомендации. Однако итоговое решение все равно останется за людьми.

3. Работая с ИИ в чувствительных областях, таких как финансовый комплаенс, как вы лично подходили к задаче сохранения доверия и подотчетности в принятии решений?

Конечно. Как я уже упоминал: когда вы используете ИИ в комплаенсе, доверие критически важно.

Поэтому мы построили наши системы ИИ так, чтобы они были полностью прозрачными. Они не работают как «черный ящик» — каждая рекомендация, которую дает система, основана на отслеживаемых правилах и данных. Мы ведем полный аудиторский след того, как принимается каждое решение, чтобы его можно было полностью объяснить. Этот подход уже доказал свою невероятную ценность при работе с регуляторами.

Окончательный вызов всегда остается за сотрудником по комплаенсу. ИИ просто предлагает хорошо обоснованную рекомендацию, которую человек затем легко проверяет и принимает решение — одобрить ее или отклонить.

4. Ваш опыт охватывает более 10 лет. Как менялось ваше отношение к автоматизации и человеческому надзору на протяжении карьеры, особенно сейчас, когда ИИ становится более автономным?

Определенно. Если говорить шире о текущем состоянии внедрения ИИ, по мере того как эта технология развивается, мы постепенно предоставляем ей всё больше автономности — при условии, что она тщательно протестирована и продолжает демонстрировать надежность.

Но еще больше меняется роль специалиста-человека в этой системе. Вместо микро-менеджмента каждого случая сотрудники по комплаенсу всё чаще выступают в роли стратегических контролеров. Они могут быстро просматривать целые массивы похожих кейсов, валидировать производительность системы и донастраивать модели по результатам.

Иными словами, де-факто роль сотрудников по комплаенсу переходит от выполнения работы вручную к управлению системами ИИ, которые выполняют работу за них.

5. Работа в риск-менеджменте, управляемом ИИ, означает движение в сложном поле этических вопросов. Как вы лично выработали для себя рамки, чтобы принимать ответственные решения при проектировании или внедрении ИИ-ориентированных решений?

Мы выстроили наш подход вокруг двух ключевых идей: понятного надзора и принципов Responsible AI. Для каждой модели, которую мы используем, назначен ответственный. Оценки рисков, проверки производительности и проверки комплаенса выполняются регулярно.

Мы также следим за тем, чтобы наши системы поддавались аудиту. Если алгоритм принимает решение, этот процесс можно просмотреть и верифицировать. Такая прозрачность — ключевая часть нашей приверженности развитию ответственного ИИ.

6. На вашем пути какая из самых сложных профессиональных «уроков», которые вы усвоили, связана с ограничениями — или рисками — чрезмерной опоры на автоматизацию в критически важных областях, таких как предотвращение мошенничества?

Один из уроков, который нам определенно нужно держать в голове, заключается в том, что даже хорошо обученные модели всё еще могут «галлюцинировать» — то есть ошибаться, причем подчас тонко, но при этом в серьезных вещах.

ИИ может пропускать сложные схемы мошенничества или, наоборот, запускать слишком много ложных тревог. Именно поэтому так важно сочетать ИИ с экспертностью людей — люди приносят с собой гибкое суждение и лучше оценивают этику и общий контекст там, где ИИ не способен.

Баланс между двумя обещаниями дает более качественные, более надежные результаты. ИИ можно использовать, чтобы покрывать огромный объем задач и упрощать их сложность, а люди, в свою очередь, используются для поддержания нужного уровня точности и доверия.

7. Для молодых специалистов, которые сегодня приходят в комплаенс, риск-менеджмент или разработку ИИ: какие личные принципы или привычки вы бы посоветовали им развивать, чтобы добиться успеха и адаптироваться в такой быстро меняющейся среде?

Во‑первых: никогда не прекращайте учиться. Технологический прогресс не имеет кнопки «пауза», и вам нужно быть в курсе или рисковать остаться позади. Здесь нет промежуточного варианта.

Во‑вторых, думайте широко. По мере развития ИИ границы между ролями размываются — технологии, финансы и регулирование превращаются в смешанный набор. Я уверен, что широкий набор навыков и открытый взгляд будут ключевыми качествами для будущих профессионалов в этой сфере.

Третье — и это естественное продолжение первых двух — будьте адаптивными. Изменения постоянны, и способность быстро подстраиваться станет для вас большим преимуществом.

И наконец, развивайте сильные навыки коммуникации и учитесь быть командным игроком. Как мы уже рассмотрели, комплаенс находится на стыке бизнеса, технологий и права. Поэтому умение переключаться и разговаривать с людьми из всех этих миров будет полезным навыком, который стоит развивать.