Искусственный интеллект в соблюдении требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа, использующего искусственный интеллект для обеспечения соответствия и обнаружения мошенничества в финансовых учреждениях.

Откройте для себя лучшие новости и события финтеха!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Что на самом деле проверяет ИИ в области соблюдения требований: технологии или нас?

В финансовых услугах соблюдение требований уже не просто функция. Это активная точка давления — место столкновения регулирования, рисков и операций. По мере внедрения технологий ИИ в эту сферу возникает один вопрос: насколько мы можем автоматизировать процессы, и кто остается ответственным, когда что-то идет не так?

Преимущество ИИ в обнаружении мошенничества и соблюдении требований легко понять. Финансовые институты сталкиваются с растущими ожиданиями обработки огромных объемов данных, реагирования на меняющие угрозы и соблюдения новых правил — при этом не жертвуя скоростью или точностью. Автоматизация, особенно при использовании машинного обучения, предлагает способ снизить операционное напряжение. Но она также вызывает более глубокие опасения по поводу управления, объяснимости и контроля.

Эти противоречия не теоретические. Они разворачиваются в реальном времени, когда финансовые компании внедряют модели ИИ в роли, традиционно выполняемых человеческими аналитиками. За сценой возникают новые риски: ложные срабатывания, слепые зоны аудита и алгоритмические решения, остающиеся непонятными как для пользователей, так и для регуляторов.

В то же время, специалисты по соблюдению требований вынуждены менять роли. Вместо ручной проверки каждой транзакции они теперь контролируют инструменты, которые это делают. Эта переоценка — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он может выявлять несоответствия. Но он не способен полностью объяснить намерения, интерпретировать контекст или принять на себя вину.

Понимание этих ограничений критически важно. И немногие лучше, чем Роман Элошвили, основатель британской компании ComplyControl, подготовлены к их изучению. Его работа находится на пересечении рисков, автоматизации и надзора — там, где эффективность алгоритмов сталкивается с регуляторным контролем.

Более десяти лет в отрасли позволяют Роману видеть, как меняются команды по соблюдению требований и как ИИ трансформирует их рабочие процессы и обязанности. Он утверждает, что потенциал ИИ заключается не в устранении человеческих ролей, а в их переосмыслении — в ясности, что машины должны делать, а что по-прежнему должны выполнять люди.

Этот сдвиг требует не только технических улучшений. Он требует культурного переосмысления ответственности. Прозрачные системы, проверяемые процессы и четко назначенная человеческая ответственность — это уже не просто особенности, а минимальные стандарты. Когда ИИ внедряется в критическую инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, требующих активного стратегического управления.

В этом интервью для FinTech Weekly Роман делится реалистичным взглядом на то, что нужно для ответственного внедрения ИИ в области соблюдения требований и предотвращения мошенничества. Его позиция не рассматривает автоматизацию как неизбежность, а как выбор — требующий постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где действительно находится доверие.

Мы рады поделиться его мнением в то время, когда многие в финтехе задаются вопросом не о том, стоит ли внедрять ИИ, а как сделать это так, чтобы не потерять стандарты, благодаря которым финансовые системы функционировали изначально.

1. Ваша карьера сложилась на стыке соблюдения требований и технологий. Можете ли вы вспомнить момент, когда поняли, что ИИ может кардинально изменить подход к управлению рисками?

Я бы не сказал, что это был один конкретный момент, который все изменил. Скорее, это был постепенный процесс. В значительной части своей карьеры я работал с крупными европейскими банками, и постоянно замечал, что многие из них значительно отстают в цифровых банковских решениях. Особенно ярко это проявлялось по сравнению с более продвинутыми финтех-центрами.

Несколько лет назад, когда тема развития ИИ снова начала активно обсуждаться, я заинтересовался этим. И, изучая технологии и их работу, понял, что искусственный интеллект способен кардинально изменить подход банков к соблюдению требований, делая их более похожими на современные, более гибкие финтех-компании.

Это и подтолкнуло меня к запуску своей компании в 2023 году. Сложность соблюдения требований и управления рисками только растет с каждым годом. Столкнувшись с этой реальностью, наша миссия проста: внедрять решения на базе ИИ для финансовых компаний и помогать им справляться с растущими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль человеческих специалистов по мере развития ИИ в области соблюдения требований и обнаружения мошенничества?

Прежде всего, хочу сказать прямо: существует распространенное опасение, что ИИ заменит человека. И в области соблюдения требований и рисков мое мнение — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу индустрию, он далек от совершенства. Поэтому участие человека остается важным фактором. Регламенты постоянно меняются, и кто-то должен нести ответственность, если системы не справляются или допускают ошибки. На текущем уровне развития ИИ еще трудно объяснить свои решения ясно, поэтому он не готов работать полностью самостоятельно. Особенно в области, где важны доверие и прозрачность.

Тем не менее, ИИ активно облегчает процессы соблюдения требований. Например, в зависимости от настроек системы ИИ может отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дополнительную проверку. Нет необходимости, чтобы человек вручную проверял каждую деталь, если что-то действительно кажется странным. И по мере развития эти системы будут все больше снижать необходимость ручной работы, позволяя командам сосредоточиться на более тонких задачах, требующих человеческого участия.

Я считаю, что в будущем появится гибридная модель, где специалисты по соблюдению требований все больше овладеют навыками работы с ИИ. Они будут внедрять и обслуживать системы ИИ, а сама ИИ упростит их работу, анализируя сложные данные и предоставляя рекомендации. Однако окончательное решение всегда останется за человеком.

3. Работая с ИИ в чувствительных сферах, таких как финансовое соблюдение требований, как лично вы подходите к вопросу сохранения доверия и ответственности при принятии решений?

Конечно. Как я уже говорил, при использовании ИИ в соблюдении требований доверие — ключевой аспект.

Именно поэтому мы сделали наши системы полностью прозрачными. Они не работают как «черный ящик» — каждое предложение системы основано на прослеживаемых правилах и данных. Мы ведем полный аудит каждого решения, чтобы оно было полностью объяснимым. Этот подход уже показал свою ценность при взаимодействии с регуляторами.

Окончательное решение всегда принимает специалист по соблюдению требований. ИИ просто предлагает обоснованную рекомендацию, которую человек может легко проверить и решить — одобрить или отклонить.

4. Ваша карьера насчитывает более 10 лет. Как изменилось ваше отношение к автоматизации и человеческому контролю за это время, особенно сейчас, когда ИИ становится все более автономным?

Определенно. Говоря шире о состоянии внедрения ИИ, чем дальше развивается эта технология, тем больше мы позволяем ей автономии — при условии, что она прошла тщательное тестирование и продолжает показывать надежность.

Но еще больше меняется роль человека-специалиста в этой системе. Вместо микроменеджмента каждого случая специалисты по соблюдению требований все чаще выступают в роли стратегических надзирателей. Они могут быстро просматривать целые группы похожих случаев, оценивать работу системы и корректировать модели на основе полученных результатов.

Другими словами, фактическая роль специалистов по соблюдению требований переходит от ручной работы к управлению системами ИИ, которые делают работу за них.

5. Работа с ИИ в области управления рисками вызывает сложные этические вопросы. Как лично вы разрабатываете рамки для ответственного принятия решений при проектировании или внедрении решений на базе ИИ?

Мы основываем наш подход на двух ключевых принципах: прозрачном контроле и принципах ответственного ИИ. Каждая модель, которую мы используем, имеет назначенного ответственного. Оценки рисков, проверки эффективности и соблюдение требований проводятся регулярно.

Также мы делаем наши системы проверяемыми. Если алгоритм принимает решение, этот процесс можно просмотреть и подтвердить. Эта прозрачность — важная часть нашего обязательства по развитию ответственного ИИ.

6. В вашем опыте, какая самая сложная профессиональная урока вы усвоили о границах или рисках чрезмерной зависимости от автоматизации в критических сферах, таких как предотвращение мошенничества?

Один из важных уроков — даже хорошо обученные модели могут «галлюцинировать» — ошибаться в тонких, но серьезных случаях.

ИИ может пропускать сложные схемы мошенничества или выдавать слишком много ложных тревог. Поэтому так важно сочетать ИИ с человеческим опытом — люди обладают гибким суждением и лучше оценивают этику и общий контекст, чем ИИ.

Баланс между ними дает более надежные результаты. ИИ помогает справляться с объемом задач и упрощает их, а люди обеспечивают необходимый уровень точности и доверия.

7. Какие личные принципы или привычки вы бы посоветовали молодым специалистам, входящим в области соблюдения требований, управления рисками или разработки ИИ, чтобы успешно адаптироваться к быстро меняющейся среде?

Прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет «паузы», и нужно идти в ногу, чтобы не отстать. Здесь нет промежуточных вариантов.

Во-вторых, думайте широко. С развитием ИИ границы между ролями стираются — технологии, финансы и регулирование становятся частью одного целого. Я убежден, что широкий набор навыков и открытость к новым идеям станут определяющими качествами будущих профессионалов.

В-третьих — будьте гибкими. Постоянные изменения требуют быстрой адаптации, и это станет вашим большим преимуществом.

И, наконец, развивайте навыки коммуникации и учитесь работать в команде. Как мы уже говорили, соблюдение требований — это пересечение бизнеса, технологий и права. Умение переключаться между этими сферами и общаться с людьми из разных областей — ценное качество.