Штучний інтелект у відповідності — це не чорна скринька, а випробування відповідальності: інтерв’ю з Романом Елошвілі

Роман Елошвілі — засновник ComplyControl, стартапу з комплаєнсу та виявлення шахрайства для фінансових установ, що працює на основі ШІ.

Дізнайтеся про топові новини та події у фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Що насправді перевіряє ШІ в комплаєнсі: технологію чи нас?

У фінансових послугах комплаєнс більше не є просто функцією. Це активна точка тиску — місце, де стикаються регуляторні вимоги, ризики та операційні процеси. Коли в цю сферу впроваджують технології ШІ, знову й знову постає одне запитання: наскільки ми можемо реально автоматизувати, і хто залишається відповідальним, якщо щось піде не так?

Привабливість ШІ для виявлення шахрайства та комплаєнсу зрозуміла. Фінансові установи стикаються зі зростаючими очікуваннями: обробляти величезні обсяги даних, реагувати на загрози, що змінюються, і виконувати регуляторні вимоги, що також еволюціонують — не жертвуючи швидкістю чи точністю. Автоматизація, зокрема коли вона спирається на машинне навчання, дає спосіб зменшити операційне навантаження. Але це також піднімає глибші питання щодо управління, пояснюваності та контролю.

Ці суперечності не є теоретичними. Вони розгортаються в реальному часі, коли фінансові компанії впроваджують моделі ШІ в ролі, які традиційно виконували людські аналітики. Поза кадром з’являються нові ризики: хибні спрацювання, «сліпі зони» під час аудитів і алгоритмічні рішення, які залишаються непрозорими як для користувачів, так і для регуляторів.

Водночас фахівцям з комплаєнсу пропонують змінювати ролі. Замість того щоб вручну перевіряти кожну транзакцію, вони тепер наглядають за тими інструментами, що це роблять. Це переосмислення — від виконавця до оцінювача — потребує не лише нових технічних навичок, а й сильнішого відчуття етичної та процедурної відповідальності. ШІ може масштабувати аналіз даних. Він може виявляти невідповідності. Але він не може повністю пояснити намір, інтерпретувати контекст або «забрати на себе» провину.

Розуміння цих обмежень критично важливе. І мало хто краще за Романа Елошвілі, засновника британської компанії з комплаєнс-технологій ComplyControl, може вивчати це питання. Його робота чітко лежить на перетині ризику, автоматизації та нагляду — там, де алгоритмічна ефективність стикається з регуляторним контролем.

Маючи понад десятиліття в цій сфері, Роман на власні очі бачив, як команди комплаєнсу еволюціонують і як ШІ змінює як їхні робочі процеси, так і їхні відповідальності. Він стверджує, що обіцянка ШІ полягає не в усуненні людських ролей, а в їх переформатуванні — у внесенні нової ясності щодо того, що мають робити машини, і що люди все ще повинні брати на себе.

Ця зміна вимагає більшого, ніж технічні оновлення. Вона вимагає культурного переузгодження щодо підзвітності. Прозорі системи, аудитовані процеси та чітко визначена людська відповідальність — уже не просто «фічі». Це мінімальний стандарт. Коли ШІ впроваджують у критичну інфраструктуру, він не просто вирішує проблеми. Він створює нову категорію рішень, які потребують активного стратегічного нагляду.

У цьому обговоренні для FinTech Weekly Роман ділиться ґрунтовним поглядом на те, що потрібно, щоб відповідально інтегрувати ШІ в комплаєнс і запобігання шахрайству. Його позиція не подає автоматизацію як неминучість, а як вибір — той, що потребує постійного людського судження, операційної ясності та готовності ставити складні запитання про те, де саме насправді живе довіра.

Ми раді поділитися його інсайтами в той момент, коли багато хто в фінтеху питає не про те, чи впроваджувати ШІ, а про те, як зробити це, не втрачаючи з поля зору стандарти, завдяки яким фінансові системи працювали в першу чергу.

1. Ви побудували кар’єру на перетині комплаєнсу та технологій. Чи можете пригадати момент, коли ви зрозуміли, що ШІ може принципово змінити підхід до управління ризиками?

Я б не сказав, що це був лише один конкретний момент, який змінив усе. Радше це був розтягнутий у часі процес. Я протягом значної частини своєї кар’єри працював із усталеними європейськими банками, і одна річ, яку я постійно помічав, — багато з них були далеко позаду, коли йшлося про цифрові банківські рішення. Контраст був особливо помітний порівняно з більш просунутими хабами фінтеху.

Кілька років тому, коли тема розвитку ШІ знову почала активно набирати обертів, мені це було природно цікаво, тож я вивчив її. І коли я досліджував технологію та принципи її роботи, я зрозумів, що штучний інтелект має потенціал кардинально змінити спосіб, у який банки здійснюють комплаєнс, наблизивши їх до сучасних, більш гнучких гравців у фінтеху.

Саме це привело мене до запуску своєї компанії у 2023 році. Складність комплаєнсу та управління ризиками лише зростає рік за роком. З огляду на цю реальність, наша місія проста: надавати фінансовим компаніям рішення на основі ШІ та допомагати їм ефективніше справлятися з такими викликами, що накопичуються.

2. З вашої професійної точки зору, як змінювалася роль фахівців-людей, коли інструменти ШІ ставали більш досконалими в комплаєнсі та виявленні шахрайства?

Перш ніж сказати щось інше, дозвольте одразу звернути увагу на одну річ. Існує поширена тривога в багатьох сферах: чи не замінить ШІ людей-працівників. А якщо говорити про фахівців із комплаєнсу та управління ризиками, то моя відповідь — ні, принаймні не найближчим часом.

Хоча штучний інтелект уже трансформує нашу індустрію, він далекої від того, щоб бути безпомилковим. Тому залученість людей залишається критично важливим фактором. Регуляторні вимоги щодо комплаєнсу змінюються постійно, і хтось має бути здатним взяти відповідальність, коли системи не встигають за змінами або допускають помилки. На поточному рівні розвитку ШІ все ще важко чітко пояснити свої рішення, тож він не готовий залишатися без нагляду. Особливо в сфері, де довіра та прозорість є ключовими.

Втім, ШІ активно робить процеси комплаєнсу простішими. Наприклад, залежно від налаштувань, системи ШІ можуть уже зараз позначати підозрілі транзакції або навіть тимчасово блокувати їх, водночас запитуючи додаткову верифікацію. Немає потреби в тому, щоб реальні люди вручну переглядали кожну дрібницю, якщо тільки щось справді не виглядає дивним. А коли ці системи розвиватимуться, вони й далі зменшуватимуть потребу в ручній роботі, дозволяючи командам більше зосереджуватися на тонших завданнях, які справді потребують людського підходу.

Я вважаю, що ми побачимо зростання гібридної моделі, де експерти з комплаєнсу також дедалі краще опановуватимуть інструменти ШІ. Саме вони впроваджуватимуть і підтримуватимуть системи ШІ, тоді як сам ШІ спрощуватиме їхню роботу: допомагатиме розбиратися в складних даних і надаватиме рекомендації. Але остаточне рішення все одно залишиться за людьми.

3. Працюючи з ШІ в чутливих сферах на кшталт фінансового комплаєнсу, як ви особисто підходили до виклику збереження довіри та підзвітності в ухваленні рішень?

Звісно. Як я вже згадував, коли ви використовуєте ШІ в комплаєнсі, довіра має вирішальне значення.

Саме тому ми створили наші системи ШІ повністю прозорими. Вони не працюють як «чорна скринька» — кожна рекомендація, яку система робить, базується на відстежуваних правилах і даних. Ми зберігаємо повний аудит-трей того, як ухвалюється кожне рішення, щоб його можна було повністю пояснити. Ця практика вже довела свою надзвичайну цінність під час взаємодії з регуляторами.

Остаточний дзвінок завжди залишається за офіцером з комплаєнсу. ШІ просто надає добре обґрунтовану пропозицію, яку людина потім легко може перевірити й ухвалити рішення — схвалити або відхилити.

4. Ваш досвід охоплює понад 10 років. Як змінювалося ваше ставлення до автоматизації та людського нагляду протягом кар’єри, особливо тепер, коли ШІ стає більш автономним?

Однозначно. Якщо говорити ширше про стан упровадження ШІ, то чим більше ця технологія прогресує, тим більше автономності ми поступово дозволяємо — за умови, що її ретельно протестували і вона продовжує доводити свою надійність.

Але те, що змінюється ще більше, — це частина ролі, яку відіграє фахівець-людина в цьому рівнянні. Замість того щоб мікрокерувати кожним випадком, офіцери з комплаєнсу дедалі частіше виконують роль стратегічних наглядачів. Вони можуть переглянути цілі партії схожих кейсів за короткий час, перевірити продуктивність системи та доопрацювати моделі на основі результатів.

Іншими словами, де-факто роль офіцерів з комплаєнсу переходить від виконання роботи вручну до управління системами ШІ так, як ніби вони виконують її за них.

5. Робота в керуванні ризиками, яке спирається на ШІ, означає навігацію крізь складні етичні питання. Як ви особисто розробили підхід до ухвалення відповідальних рішень під час проєктування чи впровадження рішень на основі ШІ?

Ми вибудували свій підхід навколо двох ключових ідей: чіткий нагляд і принципи Responsible AI (відповідального ШІ). Кожна модель, яку ми використовуємо, має призначену відповідальну особу. Оцінки ризиків, огляди продуктивності та перевірки комплаєнсу виконуються регулярно.

Ми також переконуємося, що наші системи можна аудитувати. Якщо алгоритм ухвалює рішення, цей процес можна переглянути та верифікувати. Ця прозорість є базовою частиною нашої відданості розвитку відповідального ШІ.

6. У вашому шляху яка була найскладніша професійна «наука», яку ви засвоїли про межі — або ризики — надмірного покладання на автоматизацію в критичних сферах на кшталт запобігання шахрайству?

Один урок, який ми точно маємо тримати в голові, полягає в тому, що навіть добре навчені моделі все ще можуть «галюцинувати» — можуть помилятися, тонко, але серйозно.

ШІ може пропустити складні схеми шахрайства або ж спричиняти надто багато хибних тривог. Саме тому так важливо поєднувати ШІ з експертизою людей — люди приносять із собою гнучке судження і краще здатні оцінювати етику та загальний контекст у спосіб, на який ШІ не здатен.

Баланс між обома обіцянками дає кращі, надійніші результати. ШІ можна використовувати, щоб охопити величезний обсяг завдань і спростити їхню складність, тоді як люди, своєю чергою, потрібні, щоб підтримувати належний рівень точності та довіри.

7. Для молодих професіоналів, які сьогодні входять у комплаєнс, управління ризиками або розробку ШІ, які особисті принципи чи звички ви порадили б їм сформувати, щоб досягати успіху й адаптуватися в такому середовищі, що швидко змінюється?

Перш за все: ніколи не припиняйте навчання. Технологічний прогрес не має кнопки «пауза», тож вам потрібно встигати за ним, інакше вас обженуть. Тут немає проміжного варіанту.

По-друге, думайте широко. З розвитком ШІ межі між ролями розмиваються — технології, фінанси та регуляторика перетворюються на змішаний «пакет». Я переконаний, що наявність широкого набору навичок і відкритого мислення — це визначальні риси для майбутніх професіоналів у цій сфері.

Третє — і природне продовження перших двох — будьте гнучкими. Зміни є постійними, а здатність швидко адаптуватися стане для вас великою перевагою.

І нарешті, розвивайте сильні навички комунікації та вчіться бути командним гравцем. Як ми вже розглядали, комплаєнс знаходиться на перетині бізнесу, технологій і права. Тому вміння перемикатися й говорити з людьми з усіх цих сфер буде цінною навичкою, яку варто опанувати.