Искусственный интеллект в соблюдении нормативных требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа, использующего искусственный интеллект для обеспечения соответствия требованиям и обнаружения мошенничества в финансовых учреждениях.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и другие

Что на самом деле проверяет ИИ в области соблюдения требований: технологии или нас?

В финансовых услугах соблюдение требований уже не просто функция. Это активная точка давления — место столкновения регулирования, риска и операций. По мере внедрения технологий ИИ в эту сферу, один вопрос постоянно всплывает: насколько мы можем действительно автоматизировать, и кто остается ответственным, когда что-то идет не так?

Привлекательность ИИ в обнаружении мошенничества и соблюдении требований легко понять. Финансовые институты сталкиваются с растущими ожиданиями обработки огромных объемов данных, реагирования на меняющие угрозы и соблюдения меняющихся правил — всё это без ущерба для скорости или точности. Автоматизация, особенно при использовании машинного обучения, предлагает способ снизить операционное напряжение. Но она также вызывает более глубокие опасения по поводу управления, объяснимости и контроля.

Эти противоречия не являются теоретическими. Они разворачиваются в реальном времени, когда финансовые компании внедряют модели ИИ в роли, традиционно выполнявшейся человеческими аналитиками. За кулисами возникают новые риски: ложные срабатывания, слепые зоны аудита и алгоритмические решения, остающиеся непонятными как для пользователей, так и для регуляторов.

В то же время, специалисты по соблюдению требований вынуждены менять роли. Вместо ручной проверки каждой транзакции они теперь контролируют инструменты, которые это делают. Эта переоценка — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он может отмечать несоответствия. Но он не способен полностью объяснить намерения, интерпретировать контекст или взять на себя вину.

Понимание этих ограничений критически важно. И немногие лучше, чем Роман Элошвили, основатель британской компании по технологиям соблюдения требований ComplyControl, подготовлены к их изучению. Его работа находится на пересечении риска, автоматизации и надзора — там, где алгоритмическая эффективность встречается с регуляторным контролем.

Более десяти лет в отрасли, Роман видел из первых рук, как меняются команды по соблюдению требований и как ИИ переопределяет их рабочие процессы и обязанности. Он утверждает, что обещание ИИ заключается не в устранении человеческих ролей, а в их переосмыслении — в ясности, что именно машины должны выполнять, а что по-прежнему остается за человеком.

Этот сдвиг требует не только технических обновлений. Он требует культурного переосмысления ответственности. Прозрачные системы, проверяемые процессы и четко назначенная человеческая ответственность — это уже не просто особенности, а минимальный стандарт. Когда ИИ внедряется в критическую инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, требующих активного стратегического управления.

В этом интервью для FinTech Weekly Роман делится реалистичным взглядом на то, что нужно для ответственного внедрения ИИ в области соблюдения требований и предотвращения мошенничества. Его позиция не рассматривает автоматизацию как неизбежность, а как выбор — требующий постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где действительно находится доверие.

Мы рады поделиться его мнением в то время, когда многие в финтехе задаются вопросом не о том, стоит ли внедрять ИИ, а как сделать это так, чтобы не потерять стандарты, благодаря которым финансовые системы функционировали изначально.

1. Вы построили карьеру на пересечении соблюдения требований и технологий. Можете ли вы вспомнить момент, когда поняли, что ИИ может кардинально изменить подход к управлению рисками?

Я бы не сказал, что был один конкретный момент, который все изменил. Скорее, это был постепенный процесс. В значительной части своей карьеры я работал с крупными европейскими банками, и постоянно замечал, что многие из них значительно отстают в цифровых банковских решениях. Особенно это было заметно по сравнению с более развитыми финтех-центрами.

Несколько лет назад, когда тема развития ИИ снова начала активно обсуждаться, я естественно заинтересовался и начал изучать его. И по мере изучения технологий и их работы я понял, что искусственный интеллект способен кардинально изменить подход банков к соблюдению требований, делая их более современными и гибкими, как у более продвинутых финтех-компаний.

Это и подтолкнуло меня к запуску своей компании в 2023 году. Сложность соблюдения требований и управления рисками только растет с каждым годом. Столкнувшись с этой реальностью, наша миссия проста: внедрять решения на базе ИИ для финансовых компаний и помогать им справляться с растущими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль человеческих специалистов по мере развития ИИ-инструментов в области соблюдения требований и обнаружения мошенничества?

Прежде всего, позвольте мне сразу сказать одну вещь. Есть распространенное беспокойство во многих сферах, что ИИ заменит человеческий труд. И что касается специалистов по соблюдению требований и рискам, мой ответ — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу индустрию, он далек от совершенства. Поэтому участие человека остается важным фактором. Регламенты по соблюдению требований постоянно меняются, и кто-то должен нести ответственность, когда системы не справляются или совершают ошибки. На текущем уровне развития ИИ еще трудно объяснить его решения ясно, поэтому он не готов работать полностью самостоятельно. Особенно в области, где доверие и прозрачность — на первом месте.

Тем не менее, ИИ активно облегчает процессы соблюдения требований. Например, в зависимости от настроек системы ИИ теперь может отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дополнительную проверку. Нет необходимости, чтобы реальные люди вручную просматривали каждую деталь, если что-то действительно кажется странным. И по мере развития этих систем они продолжат снижать необходимость ручной работы, позволяя командам сосредоточиться на более тонких задачах, требующих человеческого участия.

Я считаю, что мы увидим появление гибридной модели, где специалисты по соблюдению требований также станут все более компетентными в использовании ИИ-инструментов. Они будут внедрять и обслуживать системы ИИ, а сама ИИ-обработка упростит их работу, анализируя сложные данные и предоставляя рекомендации. Однако окончательное решение останется за человеком.

3. Работая с ИИ в чувствительных областях, таких как финансовое соблюдение требований, как лично вы подходите к вопросу поддержания доверия и ответственности в принятии решений?

Конечно. Как я уже говорил, при использовании ИИ в соблюдении требований доверие — ключевой аспект.

Именно поэтому мы сделали наши системы ИИ полностью прозрачными. Они не работают как «черный ящик» — каждое предложение системы основано на прослеживаемых правилах и данных. Мы ведем полный аудит того, как принимаются решения, чтобы их можно было полностью объяснить. Эта практика уже показала свою ценность при взаимодействии с регуляторами.

Конечное решение всегда принимает специалист по соблюдению требований. ИИ просто предлагает хорошо обоснованную рекомендацию, которую человек может легко проверить и решить, одобрить или отклонить.

4. Ваш опыт насчитывает более 10 лет. Как изменилось ваше отношение к автоматизации и человеческому контролю за время карьеры, особенно сейчас, когда ИИ становится все более автономным?

Определенно. Говоря шире о состоянии внедрения ИИ, чем дальше развивается эта технология, тем больше мы постепенно разрешаем ей автономии — при условии, что она тщательно протестирована и продолжает показывать надежность.

Но еще больше меняется роль человека-специалиста в этой системе. Вместо микроменеджмента каждого случая специалисты по соблюдению требований все чаще выступают в роли стратегических надзирателей. Они могут быстро просматривать целые группы похожих случаев, оценивать работу системы и корректировать модели на основе полученных результатов.

Другими словами, фактическая роль специалистов по соблюдению требований переходит от ручной работы к управлению системами ИИ, которые делают работу за них.

5. Работа с ИИ в области управления рисками поднимает сложные этические вопросы. Как лично вы разрабатываете рамки для ответственного принятия решений при проектировании или внедрении решений на базе ИИ?

Мы построили наш подход вокруг двух ключевых идей: четкий надзор и принципы ответственного ИИ. Каждая модель, которую мы используем, имеет назначенного ответственного за нее человека. Оценки рисков, проверки эффективности и соблюдение требований проводятся регулярно.

Также мы делаем наши системы проверяемыми. Если алгоритм принимает решение, этот процесс можно просмотреть и подтвердить. Эта прозрачность — важная часть нашего обязательства по развитию ответственного ИИ.

6. В вашем пути что было самым сложным профессиональным уроком, который вы усвоили о границах — или рисках — чрезмерной зависимости от автоматизации в критических сферах, таких как предотвращение мошенничества?

Один из уроков, который обязательно нужно помнить, — даже хорошо обученные модели могут «галлюцинировать» — ошибаться в тонких, но серьезных случаях.

ИИ может пропускать сложные схемы мошенничества или выдавать слишком много ложных тревог. Именно поэтому так важно сочетать ИИ с человеческим опытом — люди обладают гибким суждением и лучше оценивают этику и общий контекст, чем ИИ.

Баланс между ними обеспечивает более надежные и точные результаты. ИИ помогает справляться с объемом задач и облегчает их сложность, а люди — поддерживают необходимый уровень точности и доверия.

7. Какие личные принципы или привычки вы бы посоветовали молодым специалистам, входящим в области соблюдения требований, управления рисками или разработки ИИ, чтобы успешно адаптироваться в такой быстро меняющейся среде?

Прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет «паузы», и нужно идти в ногу или остаться позади. Тут нет промежуточных вариантов.

Во-вторых, думайте широко. С развитием ИИ границы между ролями стираются — технологии, финансы и регулирование становятся частью одного целого. Я убежден, что широкий набор навыков и открытость к новым идеям станут определяющими качествами будущих профессионалов.

В-третьих — и это естественное продолжение двух предыдущих — будьте адаптивными. Изменения постоянны, и способность быстро приспосабливаться станет вашим большим преимуществом.

И, наконец, развивайте сильные коммуникативные навыки и учитесь работать в команде. Как мы уже говорили, соблюдение требований находится на пересечении бизнеса, технологий и права. Умение переключаться между этими сферами и общаться с людьми из разных областей — ценное умение, которое стоит развивать.