Штучний інтелект у відповідності — це не чорна скринька, а випробування відповідальності: інтерв’ю з Романом Елошвілі

Роман Елошвілі — засновник ComplyControl, стартапу, що використовує штучний інтелект для забезпечення відповідності та виявлення шахрайства у фінансових установах.

Відкрийте для себе головні новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Що насправді тестує штучний інтелект у сфері відповідності: технології чи нас самих?

У фінансових послугах відповідність вже не просто функція. Це активна точка напруги — де стикаються регулювання, ризики та операції. З впровадженням технологій штучного інтелекту в цю сферу постійно виникає одне питання: наскільки ми можемо автоматизувати процеси і хто несе відповідальність, коли щось йде не так?

Привабливість AI у виявленні шахрайства та забезпеченні відповідності легко зрозуміти. Фінансові установи стикаються з зростаючими очікуваннями обробляти величезні обсяги даних, реагувати на змінювані загрози та дотримуватися нових правил — при цьому не жертвуючи швидкістю або точністю. Автоматизація, особливо за допомогою машинного навчання, пропонує спосіб зменшити операційне навантаження. Але вона також викликає глибші питання щодо управління, пояснюваності та контролю.

Ці напруги не є теоретичними. Вони відбуваються у реальному часі, коли фінансові компанії впроваджують моделі AI у ролі, традиційно виконувані людьми-аналітиками. За лаштунками з’являються нові ризики: хибні спрацьовування, сліпі зони аудиту та алгоритмічні рішення, які залишаються непрозорими для користувачів і регуляторів.

Одночасно, фахівців із відповідності просять змінити ролі. Замість ручної перевірки кожної транзакції вони тепер контролюють інструменти, що це роблять. Ця зміна — від виконавця до оцінювача — вимагає не лише нових технічних навичок, а й більш глибокого розуміння етики та процедурної відповідальності. AI може масштабувати аналіз даних. Він може виявляти невідповідності. Але він не може повністю пояснити намір, інтерпретувати контекст або взяти на себе провину.

Розуміння цих обмежень є критичним. І мало хто краще за Романа Елошвілі, засновника британської компанії ComplyControl, здатен досліджувати їх. Його робота знаходиться на перетині ризиків, автоматизації та контролю — там, де алгоритмічна ефективність зустрічається з регуляторним наглядом.

З більш ніж десятирічним досвідом у галузі, Роман бачив на власні очі, як змінюються команди відповідності і як AI трансформує їхні робочі процеси та обов’язки. Він стверджує, що обіцянка AI полягає не в усуненні людських ролей, а у їхньому переосмисленні — у тому, щоб чіткіше визначити, що машини повинні робити, а що — залишатися за людьми.

Ця зміна вимагає більше ніж технічних оновлень. Вона потребує культурного переорієнтування щодо відповідальності. Прозорі системи, аудитуємі процеси та чітко визначена людська відповідальність — вже не просто функції, а мінімальні стандарти. Коли AI впроваджується у критичну інфраструктуру, він не просто вирішує проблеми. Він створює нову категорію рішень, які потребують активного стратегічного управління.

У цій розмові для FinTech Weekly Роман пропонує реалістичний погляд на те, що потрібно для відповідального впровадження AI у сферу відповідності та запобігання шахрайству. Його точка зору не сприймає автоматизацію як неминучість, а як вибір — такий, що вимагає постійного людського судження, операційної ясності та готовності ставити складні питання про те, де справжня довіра.

Ми раді поділитися його думками у час, коли багато у фінтеху запитують не про те, чи впроваджувати AI, а як зробити це так, щоб не втратити стандарти, що зробили фінансові системи ефективними спочатку.

1. Ви побудували кар’єру на перетині відповідності та технологій. Чи можете пригадати момент, коли зрозуміли, що AI може кардинально змінити підходи до управління ризиками?

Я б не сказав, що це був один конкретний момент, що все змінив. Скоріше, це був процес, що розтягнувся у часі. Я багато працював із відомими європейськими банками, і помічав, що багато з них значно відстають у цифрових банківських рішеннях. Це особливо було помітно у порівнянні з більш розвиненими фінтех-центрами.

Кілька років тому, коли тема розвитку AI знову почала активно обговорюватися, я зацікавився цим і почав досліджувати. Вивчаючи технології та їхню роботу, я зрозумів, що штучний інтелект має потенціал кардинально змінити підходи банків до відповідності, зробивши їх більш сучасними та гнучкими у порівнянні з традиційними.

Саме це й спонукало мене заснувати свою компанію у 2023 році. Складність управління відповідністю та ризиками лише зростає з роками. У цій реальності наша місія проста: впроваджувати рішення на базі AI у фінансові компанії і допомагати їм ефективніше справлятися з цими викликами.

2. З вашої професійної точки зору, як змінилася роль людських фахівців із розвитком більш просунутих інструментів AI у сфері відповідності та виявлення шахрайства?

Перш за все, хочу сказати одне. Існує поширена тривога, що AI замінить людську працю. Щодо фахівців із відповідності та ризиків, моя відповідь — ні, принаймні не найближчим часом.

Хоча штучний інтелект уже трансформує нашу галузь, він ще далекий від ідеалу. Тому людська участь залишається важливою. Регулювання змінюються постійно, і хтось має нести відповідальність, коли системи дають збій або роблять помилки. На нинішньому рівні розвитку AI ще важко чітко пояснити свої рішення, тому він не готовий працювати самостійно. Особливо у сфері, де довіра і прозорість — на першому місці.

Проте AI активно полегшує процеси відповідності. Наприклад, залежно від налаштувань, системи AI можуть позначати підозрілі транзакції або навіть тимчасово блокувати їх, запитуючи додаткову перевірку. Не потрібно, щоб люди вручну переглядали кожну деталь, якщо щось справді виглядає дивним. І з розвитком систем вони й надалі зменшуватимуть потребу у ручній роботі, дозволяючи командам зосередитися на більш тонких завданнях, що вимагають людського підходу.

Я вважаю, що з’явиться гібридна модель, коли фахівці з відповідності все більше опануватимуть інструменти AI. Вони будуть впроваджувати та підтримувати системи AI, а сама AI спростить їхню роботу, аналізуючи складні дані і надаючи рекомендації. Остаточне рішення залишатиметься за людьми.

3. При роботі з AI у чутливих сферах, таких як фінансова відповідність, як ви особисто підходите до питання збереження довіри та відповідальності у прийнятті рішень?

Звичайно. Як я вже згадував, довіра — ключовий аспект у роботі з AI у відповідності.

Тому ми зробили наші системи максимально прозорими. Вони не працюють як «чорна скринька» — кожна рекомендація базується на зрозумілих правилах і даних. Ми зберігаємо повний аудитний слід кожного рішення, щоб його можна було пояснити. Це вже довело свою цінність у спілкуванні з регуляторами.

Остаточне рішення завжди приймає відповідальний співробітник. AI пропонує обґрунтовану рекомендацію, яку людина може легко перевірити і вирішити — схвалити чи відхилити.

4. Ваш досвід понад 10 років. Як змінювалося ваше ставлення до автоматизації та людського контролю протягом кар’єри, особливо зараз, коли AI стає дедалі автономнішим?

Безумовно. Говорячи ширше, чим далі просувається розвиток AI, тим більше ми дозволяємо йому автономії — за умови, що він проходить ретельне тестування і доводить свою надійність.

Але ще більше змінюється роль людського фахівця у цій системі. Замість мікроменеджменту кожного випадку, відповідальні співробітники стають стратегічними наглядачами. Вони можуть швидко переглядати цілі групи схожих випадків, оцінювати роботу системи і коригувати моделі на основі результатів.

Інакше кажучи, фактична роль фахівця з відповідності переходить від ручної роботи до управління AI-системами, які роблять цю роботу за них.

5. Робота з AI у сферах, що вимагають високої етики, наприклад у запобіганні шахрайству, вимагає складних рішень. Як ви особисто розробили рамки для відповідального проектування та впровадження AI-рішень?

Ми побудували наш підхід навколо двох ключових ідей: прозорого контролю та принципів відповідального AI. Кожна модель має призначену відповідальну особу. Регулярно проводимо оцінки ризиків, перевірки продуктивності та відповідність.

Ми також гарантуємо, що наші системи можна перевірити. Якщо алгоритм приймає рішення, цей процес можна переглянути і підтвердити. Ця прозорість є основою нашої відповідальності у розробці AI.

6. У вашій кар’єрі яка була найскладнішою професійною уроком щодо обмежень або ризиків надмірної залежності від автоматизації у критичних сферах, таких як запобігання шахрайству?

Один із важливих уроків — навіть добре натреновані моделі можуть «галюцинувати» — робити помилки у тонких, але серйозних випадках.

AI може пропустити складні схеми шахрайства або викликати надмірну кількість хибних спрацьовувань. Саме тому так важливо поєднувати AI із людським досвідом — люди мають гнучке судження і краще оцінюють етику та контекст, ніж AI.

Баланс між ними дає кращі, більш надійні результати. AI допомагає обробляти великий обсяг завдань і зменшувати їхню складність, а люди підтримують потрібний рівень точності та довіри.

7. Які особисті принципи або звички ви порадили б молодим фахівцям, що входять у сферу відповідності, управління ризиками або AI, щоб успішно адаптуватися у швидкозмінному середовищі?

Перш за все: ніколи не припиняйте навчання. Технології швидко розвиваються, і потрібно йти в ногу або залишитися позаду. Тут немає компромісів.

По-друге, думайте широко. З розвитком AI межі між ролями стираються — технології, фінанси і регулювання стають єдиним полем. Вважаю, що широкий набір навичок і відкритий розум стануть визначальними рисами майбутніх фахівців.

По-третє — будьте гнучкими. Зміни постійні, і здатність швидко адаптуватися стане вашою перевагою.

І нарешті, розвивайте комунікаційні навички і вчіться працювати в команді. Як ми вже говорили, відповідність — це перетин бізнесу, технологій і права. Вміння швидко переключатися між цими сферами і спілкуватися з людьми з різних галузей — цінний навик.