ШІ у відповідності — це не чорна скринька, а випробування відповідальності: інтерв’ю з Романом Елошвілі

Роман Елошвілі — засновник ComplyControl, стартапу з автоматизованого дотримання нормативів та виявлення шахрайства на основі штучного інтелекту для фінансових установ.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Що насправді тестує ШІ у дотриманні нормативів: технології чи нас?

У фінансових послугах дотримання нормативів вже більше не просто функція. Це активна точка напруги — де стикаються регулювання, ризики та операції. З впровадженням технологій ШІ у цю сферу, одне питання постійно виникає: наскільки ми справді можемо автоматизувати, і хто залишається відповідальним, коли щось іде не так?

Привабливість ШІ у виявленні шахрайства та дотриманні нормативів легко зрозуміти. Фінансові установи стикаються з зростаючими очікуваннями обробляти величезні обсяги даних, реагувати на змінювані загрози та дотримуватися змінних регуляцій — і все це без компромісів щодо швидкості або точності. Автоматизація, особливо коли вона базується на машинному навчанні, пропонує спосіб зменшити операційне навантаження. Але вона також викликає глибші занепокоєння щодо управління, пояснюваності та контролю.

Ці напруги не є теоретичними. Вони розгортаються у реальному часі, коли фінансові компанії впроваджують моделі ШІ у ролі, традиційно виконувані людськими аналітиками. За лаштунками з’являються нові ризики: хибні спрацьовування, сліпі зони аудиту та алгоритмічні рішення, які залишаються непрозорими і для користувачів, і для регуляторів.

Одночасно, фахівців з дотримання нормативів просять змінювати ролі. Замість ручної перевірки кожної транзакції вони тепер контролюють інструменти, що це роблять. Ця переорієнтація — від виконавця до оцінювача — вимагає не лише нових технічних навичок, а й більш глибокого почуття етичної та процедурної відповідальності. ШІ може масштабувати аналіз даних. Він може позначати невідповідності. Але він не може повністю пояснити намір, інтерпретувати контекст або взяти на себе провину.

Розуміння цих обмежень є критичним. І мало хто краще за Романа Елошвілі, засновника британської компанії з технологій дотримання нормативів ComplyControl, здатен їх досліджувати. Його робота знаходиться саме на перетині ризиків, автоматизації та контролю — там, де алгоритмічна ефективність зустрічається з регуляторним наглядом.

З більш ніж десятирічним досвідом у галузі, Роман бачив на власні очі, як змінюються команди з дотримання нормативів і як ШІ трансформує їхні робочі процеси та відповідальність. Він стверджує, що обіцянка ШІ полягає не в усуненні людських ролей, а у їхньому переосмисленні — у наданні нової ясності щодо того, що машини повинні обробляти, а що люди все ще мають контролювати.

Ця зміна вимагає більше, ніж технічних оновлень. Вона потребує культурного переорієнтування навколо відповідальності. Прозорі системи, аудитуємі процеси та чітко визначена людська відповідальність — вже не просто функції, а мінімальні стандарти. Коли ШІ впроваджується у критичну інфраструктуру, він не просто вирішує проблеми. Він вводить нову категорію рішень, що вимагають активного стратегічного управління.

У цій розмові для FinTech Weekly Роман пропонує реалістичний погляд на те, що потрібно для відповідального впровадження ШІ у дотримання нормативів та запобігання шахрайству. Його точка зору не подає автоматизацію як неминучість, а як вибір — той, що вимагає постійної людської оцінки, операційної ясності та готовності ставити складні питання про те, де справді знаходиться довіра.

Ми раді поділитися його думками у час, коли багато у фінтеху запитують не чи варто впроваджувати ШІ — а як зробити це так, щоб не втратити стандарти, що зробили фінансові системи такими, якими вони є.

1. Ви побудували кар’єру на перетині дотримання нормативів і технологій. Чи можете пригадати момент, коли ви зрозуміли, що ШІ може кардинально змінити спосіб управління ризиками?

Я б не сказав, що це був один конкретний момент, що все змінив. Скоріше, це був процес, що розгортався поступово. Я багато працював із усталеними європейськими банками, і одне з того, що я постійно помічав — багато з них значно відстають у цифрових банківських рішеннях. Контраст був особливо помітним у порівнянні з більш просунутими фінтех-хабами.

Кілька років тому, коли тема розвитку ШІ знову почала активно розгортатися, я природно зацікавився і почав досліджувати цю сферу. Вивчаючи технології та їхню роботу, я зрозумів, що штучний інтелект має потенціал кардинально змінити спосіб, яким банки обробляють дотримання нормативів, ставши більш схожими на сучасних, більш гнучких гравців фінтеху.

Саме це спонукало мене заснувати свою компанію у 2023 році. Складність дотримання нормативів і управління ризиками лише зростає з кожним роком. Зіткнувшись із цим, наше завдання просте: впроваджувати рішення на базі ШІ для фінансових компаній і допомагати їм ефективніше справлятися з цими зростаючими викликами.

2. З вашої професійної точки зору, як змінилася роль людських фахівців із впровадженням більш просунутих інструментів ШІ у дотриманні нормативів та виявленні шахрайства?

Перш ніж щось сказати, хочу одразу зазначити одну річ. Існує поширена тривога у багатьох сферах — чи замінить ШІ людських працівників. Що стосується фахівців із дотримання нормативів і ризиків, моя відповідь — ні, принаймні, не найближчим часом.

Хоча штучний інтелект уже трансформує нашу галузь, він ще далекий від безпомилковості. Тому людська участь залишається важливою. Регуляції постійно змінюються, і хтось має нести відповідальність, коли системи не справляються або роблять помилки. На нинішньому рівні розвитку ШІ ще важко чітко пояснити свої рішення, тому він не готовий залишатися самостійним. Особливо у сфері, де довіра і прозорість — на першому місці.

Проте ШІ активно полегшує процеси дотримання нормативів. Наприклад, залежно від налаштувань, системи ШІ можуть позначати підозрілі транзакції або навіть тимчасово блокувати їх, запитуючи додаткову перевірку. Не потрібно, щоб реальні люди вручну переглядали кожну деталь, якщо щось справді виглядає дивним. І з розвитком цих систем вони й надалі зменшуватимуть потребу у ручній роботі, дозволяючи командам зосередитися на більш тонких завданнях, що справді вимагають людського втручання.

Я вважаю, що з’явиться гібридна модель, де експерти з дотримання нормативів все більше опанують використання інструментів ШІ. Вони будуть впроваджувати та підтримувати системи ШІ, тоді як сама ШІ спростить їхню роботу, аналізуючи складні дані та надаючи рекомендації. Остаточне рішення, однак, залишатиметься за людьми.

3. Коли працюєте з ШІ у чутливих сферах, таких як фінансове дотримання нормативів, як особисто ви підходите до питання збереження довіри та відповідальності у процесі прийняття рішень?

Звісно. Як я вже згадував, коли використовуєш ШІ у дотриманні нормативів, довіра — це ключ.

Саме тому ми зробили наші системи ШІ максимально прозорими. Вони не працюють як “чорна скринька” — кожна рекомендація системи базується на відслідковуваних правилах і даних. Ми зберігаємо повний аудитний слід того, як ухвалюється кожне рішення, щоб його можна було повністю пояснити. Ця практика вже довела свою цінність у спілкуванні з регуляторами.

Остаточне рішення завжди залишається за фахівцем із дотримання нормативів. ШІ просто пропонує обґрунтовану рекомендацію, яку людина може легко перевірити і ухвалити рішення — схвалити чи відхилити.

4. Ваш досвід налічує понад 10 років. Як змінювалося ваше ставлення до автоматизації та людського контролю протягом кар’єри, особливо зараз, коли ШІ стає все більш автономним?

Безумовно. Говорячи ширше про стан впровадження ШІ, чим далі просувається ця технологія, тим більше ми поступово дозволяємо їй автономії — за умови, що вона ретельно тестується і продовжує доводити свою надійність.

Але ще більше змінюється роль людського фахівця у цій системі. Замість мікроменеджменту кожного випадку, фахівці з дотримання нормативів все більше виконують роль стратегічних наглядачів. Вони можуть швидко переглядати цілі групи схожих випадків, підтверджувати роботу системи і коригувати моделі на основі результатів.

Інакше кажучи, фактична роль фахівця з дотримання нормативів переходить від ручної роботи до управління системами ШІ, які роблять цю роботу за них.

5. Робота з ШІ у ризик-менеджменті, зокрема у чутливих сферах, таких як шахрайство, вимагає вирішення складних етичних питань. Як особисто ви розробили рамки для відповідального прийняття рішень при проектуванні або впровадженні рішень на базі ШІ?

Ми побудували наш підхід навколо двох ключових ідей: чіткий нагляд і Принципи відповідального ШІ. Кожна модель, яку ми використовуємо, має призначену відповідальну особу. Оцінки ризиків, огляди продуктивності та перевірки дотримання нормативів проводяться регулярно.

Ми також гарантуємо, що наші системи є аудитуємими. Якщо алгоритм ухвалює рішення, цей процес можна переглянути і підтвердити. Ця прозорість є основною частиною нашої відданості відповідальному розвитку ШІ.

6. У вашому досвіді, яка була найскладнішою професійною уроком щодо обмежень або ризиків надмірної залежності від автоматизації у критичних сферах, таких як запобігання шахрайству?

Один із уроків, який потрібно пам’ятати — навіть добре натреновані моделі можуть “галюцинувати” — робити помилки у тонких, але серйозних випадках.

ШІ може пропустити складні схеми шахрайства або викликати надто багато хибних спрацьовувань. Саме тому поєднання ШІ з людською експертизою так важливе — люди мають гнучке судження і краще оцінюють етику та загальний контекст, ніж ШІ.

Баланс між ними обіцяє більш надійні результати. ШІ може обробляти великий обсяг завдань і зменшувати їхню складність, тоді як люди зберігатимуть необхідний рівень точності та довіри.

7. Які особисті принципи або звички ви порадили б молодим фахівцям, що входять у сферу дотримання нормативів, управління ризиками або розробки ШІ, щоб досягти успіху і адаптуватися у такій швидкозмінній сфері?

Насамперед: ніколи не припиняйте навчання. Технологічний прогрес не має “пауза” — потрібно йти в ногу або залишитися позаду. Тут немає проміжного варіанту.

По-друге, думайте широко. З розвитком ШІ межі між ролями стираються — технології, фінанси і регулювання стають змішаним набором. Я переконаний, що широкий набір навичок і відкритий розум стануть визначальними рисами майбутніх професіоналів.

По-третє — і це природне продовження попередніх двох — будьте гнучкими. Зміни постійні, і здатність швидко адаптуватися стане для вас великим плюсом.

І нарешті, розвивайте сильні комунікаційні навички і вчіться працювати в команді. Як ми вже обговорювали, дотримання нормативів — це перехрестя бізнесу, технологій і права. Тому здатність швидко переключатися між цими сферами і спілкуватися з людьми з різних галузей — цінний навик, який потрібно опанувати.