ШІ у відповідності — це не чорна скринька, а випробування відповідальності: інтерв’ю з Романом Елошвілі

Роман Елошвілі — засновник ComplyControl, стартапу з автоматизованого дотримання нормативів та виявлення шахрайства на основі штучного інтелекту для фінансових установ.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Що насправді тестує ШІ у сфері дотримання нормативів: технології чи нас?

У фінансових послугах дотримання нормативів вже не просто функція. Це активна точка напруги — де регулювання, ризик і операції стикаються. З впровадженням технологій ШІ у цю сферу, одне питання постійно виникає: наскільки ми справді можемо автоматизувати, і хто залишається відповідальним, коли щось іде не так?

Привабливість ШІ у виявленні шахрайства та дотриманні нормативів легко зрозуміти. Фінансові установи стикаються з зростаючими очікуваннями обробляти величезні обсяги даних, реагувати на змінювані загрози та дотримуватися змінних регуляцій — і все це без шкоди для швидкості або точності. Автоматизація, особливо коли вона базується на машинному навчанні, пропонує спосіб зменшити операційне навантаження. Але вона також викликає глибші занепокоєння щодо управління, пояснюваності та контролю.

Ці напруги не є теоретичними. Вони відбуваються у реальному часі, коли фінансові компанії впроваджують моделі ШІ у ролі, традиційно виконувані людськими аналітиками. За лаштунками з’являються нові ризики: хибні спрацьовування, сліпі зони аудиту та алгоритмічні рішення, які залишаються непрозорими для користувачів і регуляторів.

Одночасно, фахівців з дотримання нормативів просять змінити ролі. Замість ручної перевірки кожної транзакції вони тепер контролюють інструменти, що це роблять. Це переосмислення — від виконавця до оцінювача — вимагає не лише нових технічних навичок, а й більшого почуття етичної та процедурної відповідальності. ШІ може масштабувати аналіз даних. Він може позначати невідповідності. Але він не може повністю пояснити намір, інтерпретувати контекст або взяти на себе провину.

Розуміння цих обмежень є критичним. І мало хто краще за Романа Елошвілі, засновника британської компанії з технологій дотримання нормативів ComplyControl, здатен їх досліджувати. Його робота знаходиться саме на перетині ризику, автоматизації та контролю — там, де алгоритмічна ефективність зустрічається з регуляторним наглядом.

З більш ніж десятирічним досвідом у галузі, Роман бачив на власні очі, як змінюються команди з дотримання нормативів і як ШІ змінює їхні робочі процеси та обов’язки. Він стверджує, що обіцянка ШІ полягає не в усуненні людських ролей, а у їхньому переосмисленні — у внесенні нової ясності у те, що машини мають обробляти, а що люди все ще повинні тримати під контролем.

Цей перехід вимагає більше ніж технічних оновлень. Це потребує культурного переорієнтування щодо відповідальності. Прозорі системи, аудитуємі процеси і чітко визначена людська відповідальність — вже не просто функції, а мінімальні стандарти. Коли ШІ впроваджується у критичну інфраструктуру, він не просто вирішує проблеми. Він вводить нову категорію рішень, що вимагають активного стратегічного управління.

У цій розмові для FinTech Weekly, Роман пропонує реалістичний погляд на те, що потрібно для відповідального впровадження ШІ у сферу дотримання нормативів і боротьби з шахрайством. Його точка зору не подає автоматизацію як неминучість, а як вибір — що вимагає постійного людського судження, операційної ясності і готовності ставити складні питання про те, де справді знаходиться довіра.

Ми раді поділитися його думками у час, коли багато у фінтеху запитують не чи впроваджувати ШІ, а як зробити це так, щоб не втратити стандарти, що зробили фінансові системи такими, якими вони є.

1. Ви побудували кар’єру на перетині дотримання нормативів і технологій. Чи можете пригадати момент, коли ви зрозуміли, що ШІ може кардинально змінити спосіб управління ризиками?

Я б не сказав, що це був один конкретний момент, що все змінив. Скоріше, це був процес, що розгортався поступово. Я багато працював із відомими європейськими банками, і одне з того, що я постійно помічав — багато з них значно відстають у цифрових банківських рішеннях. Контраст був особливо помітним у порівнянні з більш просунутими фінтех-хабами.

Кілька років тому, коли тема розвитку ШІ знову почала набирати обертів, я природно зацікавився і почав досліджувати її. І вивчаючи технології та їхню роботу, я зрозумів, що штучний інтелект має потенціал кардинально змінити спосіб, яким банки обробляють свої дотримання нормативів, ставлячи їх ближче до сучасних, більш гнучких фінтех-компаній.

Саме це спонукало мене заснувати свою компанію у 2023 році. Складність дотримання нормативів і управління ризиками лише зростає з роками. Зіткнувшись із цим, наше завдання просте: впроваджувати рішення на основі ШІ для фінансових компаній і допомагати їм ефективніше справлятися з цими зростаючими викликами.

2. З вашої професійної точки зору, як змінилася роль людських фахівців із впровадженням більш просунутих інструментів ШІ у сфері дотримання нормативів і виявлення шахрайства?

Перш ніж щось сказати, хочу одразу зазначити одну річ. Існує поширена тривога у багатьох сферах — чи не замінить ШІ людську працю. Що стосується фахівців з дотримання нормативів і ризиків, моя відповідь — ні, принаймні, не найближчим часом.

Хоча штучний інтелект уже трансформує нашу галузь, він ще далекий від безпомилковості. Тому людська участь залишається необхідною. Регуляції змінюються постійно, і хтось має нести відповідальність, коли системи не справляються або роблять помилки. На нинішньому рівні розвитку ШІ ще важко чітко пояснити його рішення, тому він не готовий діяти самостійно. Особливо у сфері, де довіра і прозорість — на першому місці.

Проте ШІ активно полегшує процеси дотримання нормативів. Наприклад, залежно від налаштувань, системи ШІ можуть позначати підозрілі транзакції або навіть тимчасово блокувати їх, запитуючи додаткову перевірку. Не потрібно, щоб реальні люди вручну переглядали кожну деталь, якщо щось справді виглядає дивним. І з розвитком систем вони й надалі зменшуватимуть потребу у ручній роботі, дозволяючи командам зосередитися на більш тонких завданнях, що справді вимагають людського втручання.

Я вважаю, що ми станемо свідками появи гібридної моделі, де експерти з дотримання нормативів все більше опануватимуть інструменти ШІ. Вони будуть впроваджувати і підтримувати системи ШІ, тоді як сама ШІ спростить їхню роботу, аналізуючи складні дані і надаючи рекомендації. Остаточне рішення, однак, залишатиметься за людьми.

3. Працюючи з ШІ у чутливих сферах, таких як фінансове дотримання нормативів, як особисто ви підходите до питання збереження довіри та відповідальності у процесі прийняття рішень?

Звичайно. Як я вже згадував, довіра у роботі з ШІ — ключовий аспект.

Саме тому ми зробили наші системи ШІ максимально прозорими. Вони не працюють як «чорна скринька» — кожна рекомендація системи базується на відслідковуваних правилах і даних. Ми зберігаємо повний аудитний слід того, як ухвалюється кожне рішення, щоб його можна було повністю пояснити. Ця практика вже довела свою цінність у спілкуванні з регуляторами.

Остаточне рішення завжди залишається за співробітником з дотримання нормативів. ШІ просто пропонує обґрунтовану рекомендацію, яку людина може легко перевірити і ухвалити рішення — схвалити чи відхилити.

4. Ваш досвід налічує понад 10 років. Як змінювалося ваше ставлення до автоматизації і людського контролю протягом кар’єри, особливо зараз, коли ШІ стає дедалі автономнішим?

Безумовно. Говорячи ширше про стан впровадження ШІ, чим далі просувається ця технологія, тим більше ми поступово дозволяємо їй автономії — за умови, що вона пройде ретельне тестування і доведе свою надійність.

Але ще більше змінюється роль людського фахівця у цій системі. Замість мікроменеджменту кожного випадку, співробітники з дотримання нормативів все більше виконують роль стратегічних наглядачів. Вони можуть швидко переглядати цілі групи схожих випадків, підтверджувати роботу системи і коригувати моделі на основі результатів.

Інакше кажучи, фактична роль фахівця з дотримання нормативів переходить від ручної роботи до управління системами ШІ, які роблять цю роботу за них.

5. Робота з ШІ у ризик-менеджменті, зокрема у чутливих сферах, означає відповідь на складні етичні питання. Як особисто ви розробили рамки для відповідального прийняття рішень при проектуванні або впровадженні рішень на основі ШІ?

Ми побудували наш підхід навколо двох ключових ідей: чіткий нагляд і принципи відповідального ШІ. Кожна модель, яку ми використовуємо, має призначену відповідальну особу. Оцінки ризиків, огляди продуктивності і перевірки дотримання нормативів проводяться регулярно.

Ми також гарантуємо, що наші системи є аудитуємими. Якщо алгоритм ухвалює рішення, цей процес можна переглянути і підтвердити. Ця прозорість є основною частиною нашої відданості відповідальному розвитку ШІ.

6. У вашому досвіді, яка найскладніша професійна урок, яку ви засвоїли щодо обмежень або ризиків надмірної залежності від автоматизації у критичних сферах, таких як запобігання шахрайству?

Один із уроків — потрібно пам’ятати, що навіть добре натреновані моделі можуть «галюцинувати» — робити помилки у тонких, але серйозних випадках.

ШІ може пропустити складні схеми шахрайства або викликати надто багато хибних спрацьовувань. Саме тому поєднання ШІ з людською експертизою так важливе — люди мають гнучке судження і краще оцінюють етику та загальний контекст, ніж ШІ.

Баланс між ними обіцяє кращі, більш надійні результати. ШІ може обробляти великий обсяг завдань і зменшувати їхню складність, тоді як люди зберігатимуть необхідний рівень точності і довіри.

7. Які особисті принципи або звички ви порадили б молодим фахівцям, що входять у сферу дотримання нормативів, управління ризиками або розробки ШІ, щоб досягти успіху і адаптуватися у такій швидкозмінній сфері?

Найперше: ніколи не припиняйте навчання. Технологічний прогрес не має «пауза»-кнопки, і потрібно йти в ногу або залишитися позаду. Тут немає проміжного варіанту.

По-друге, думайте широко. З розвитком ШІ межі між ролями стираються — технології, фінанси і регулювання стають змішаним набором. Я переконаний, що широкий набір навичок і відкритий розум стануть визначальними рисами майбутніх фахівців.

По-третє — і це природне продовження попередніх двох — будьте гнучкими. Зміни постійні, і здатність швидко адаптуватися стане вашим великим плюсом.

І нарешті, розвивайте сильні комунікаційні навички і вчіться працювати в команді. Як ми вже обговорювали, дотримання нормативів — це перехрестя бізнесу, технологій і права. Тому вміння швидко переключатися і спілкуватися з людьми з усіх цих сфер — цінний навик, який варто опанувати.