Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Delgado Aparicio — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе головні новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект у фінтеху охоплює широкий спектр застосувань — від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного рейтингу та персоналізованих рекомендацій продуктів. Однак у звіті Financial Conduct Authority зазначається, що з 75% компаній, які використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше — неправильне розуміння сили та масштабів аналітики даних, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привернуло увагу керівництва. Але багато хто з тих, хто вирішує, як впроваджувати ШІ, не розуміє його основних принципів — калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, знаходячи закономірності у числах. ШІ базується на тому ж типі математики, лише масштабованій до мільйонів транзакцій одночасно. Знявши маркетинг, залишається основа — статистика та алгоритми.

Саме тому важливою є цифрова грамотність керівників щодо ШІ. Лідери, які не можуть визначити межі аналітики, ризикують довіряти системам, яких не розуміють, або недооцінювати їх через страх. Історія показує, що трапляється, коли керівники неправильно інтерпретують технології: регулятори колись намагалися заборонити міжнародні IP-звонки, але технологія швидше за правила. Те саме відбувається з ШІ. Його не можна блокувати або сліпо впроваджувати — потрібен розсуд, контекст і відповідальне керівництво.

Лідерам у фінтеху потрібно закривати ці прогалини, щоб відповідально та ефективно використовувати ШІ. Це означає розуміти межі аналітики та ШІ, розвивати навички керування цими системами і застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ розвивається з цієї основи, використовуючи передову аналітику для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень.

З його винятковими можливостями обробки даних легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка — вважати, що недосконалі дані роблять ШІ безкорисним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський розсуд для заповнення прогалин. Без цього обережного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на застарілих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може випадково слугувати ознакою статі, або прізвище — ознакою етнічної приналежності, що може несправедливо впливати на кредитний рейтинг. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ стикаються з ситуаціями, на яких їх не тренували, виникає зміщення моделі. Волатильність ринку, зміни у регулюванні, поведінка клієнтів і макроекономічні коливання можуть знизити ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам фінтеху

Опитування Deloitte показало, що 80% вважають, що їхні ради директорів мають мало або зовсім не мають досвіду з ШІ. Але керівники не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Міжаналітична грамотність

Перед впровадженням ШІ керівники мають вміти швидко перемикатися — аналізувати цифри, бізнес-кейс, операції та етичні питання — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони повинні розуміти, як статистична точність моделі впливає на кредитний ризик. І вміти визначати, коли змінна, що здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця аналітична грамотність приходить через спільну роботу з фахівцями з комплаєнсу для розбору регуляцій, спілкування з менеджерами продуктів щодо досвіду користувачів і перегляд результатів моделей з даними науковцями для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнути ризиків неможливо, але за допомогою міжаналітичної грамотності керівники можуть визначити, які ризики варто приймати, а які зменшать цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість — не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного рейтингу сильно схиляється до однієї групи клієнтів, виправлення цієї нерівності — не просто завдання для дата-сайєнсів; це захист репутації компанії. Для фінтехів, що прагнуть фінансової інклюзії або піддаються ESG-оцінкам, лише юридична відповідність недостатня. Розсуд — це знати, що правильно, а не лише дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї керівники, клієнти та регулятори залишаються з питаннями, чому модель дійшла до певного висновку.

Це означає, що керівники мають розрізняти моделі, які можна інтерпретувати, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розуміти, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот літака. Більшість часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей принцип той самий. Команди мають можливість зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює разом із готовністю до втручання, що гарантує, що керівництво розуміє ШІ і залишається у контролі, навіть при масштабних операціях.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень — наприклад, якщо кредитний рейтинг нижче 650, відмовити у заявці. Але ШІ працює інакше, і це суттєва зміна парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень довіри до прогнозу з урахуванням інших бізнесових або регуляторних аспектів.
*   Знати, коли слід перевищити автоматизацію і застосувати людський розсуд.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає “відмовити”. Це може означати “дослідити додатково” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що знижує довіру клієнтів і підвищує ризик регуляторних санкцій.

Чому рівень розсуду визначатиме переможців у фінтеху

Майбутнє фінтеху не визначатиме, хто має найпотужніші моделі ШІ, а хто використовує їх із найгострішим розсудом. Оскільки ШІ стає товаром, вигоди від підвищення ефективності — це вже базовий рівень. Відмінність у перемозі — у здатності втручатися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень розсуду — це не абстрактна ідея. Він проявляється, коли керівники вирішують зупинити автоматичну торгівлю, відкласти запуск продукту або скасувати ризиковий рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ, а доказ того, що людський контроль — це останній рівень створення цінності.

Стратегічне узгодження — це інституціоналізація розсуду. Сильна стратегія ШІ не лише створює технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок, налаштування архітектури даних і зв’язок кожного впровадження з чітким бізнес-результатом. У цьому сенсі розсуд — не епізодична дія, а спосіб роботи, що дозволяє керівникам керувати ціннісним підходом.

Фінтехам потрібні лідери, які вміють балансувати між швидкістю та масштабом ШІ і людським розсудом, контекстом, нюансами і довгостроковим баченням. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або ризикнути сміливим кроком для зростання. Цей рівень розсуду перетворює ШІ з інструменту на конкурентну перевагу.

Про автора:

Гільєрмо Delgado — глобальний лідер з ШІ у Nisum та операційний директор Deep Space Biology. З понад 25 роками досвіду у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського добробуту на Землі та у космосі.

Як консультант з корпоративної стратегії, він сприяв формуванню бачення NASA щодо ШІ у космічній біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту від Georgia Tech, здобутий з відзнакою. Також викладає у університеті курси з машинного навчання, великих даних і геноміки.