Рівень судження: чому штучний інтелект не є розумним, поки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — Global AI Leader у Nisum.

Дізнайтеся про найкращі новини та події у фінтеху!

Підпишіться на інформаційний бюлетень FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та багатьох інших

AI у фінтеху охоплює цілий спектр сценаріїв використання — від виявлення шахрайства та алгоритмічного трейдингу до динамічного скорингу кредитоспроможності та персоналізованих рекомендацій продуктів. Але звіт Управління з фінансового регулювання (Financial Conduct Authority) показав, що з 75% компаній, які використовують AI, лише 34% розуміють, як він працює.

Проблема не лише в нестачі обізнаності. Це глибоке нерозуміння сили й масштабу аналітики даних — тієї дисципліни, з якої виникає AI. Масове впровадження інструментів генеративного AI вивело цю тему на рівень C-suite. Але багато тих, хто вирішує, як впроваджувати AI, не розуміють його базових принципів — обчислень (calculus), статистики та передових алгоритмів.

Візьмімо Закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, помічаючи закономірності в числах. AI спирається на ту саму математику, просто масштабовану на мільйони транзакцій одночасно. Приберіть гіперболу — і фундамент усе ще становлять статистика та алгоритми.

Ось чому AI-грамотність на C-рівні має значення. Лідери, які не можуть відрізнити, де закінчується аналітика, наражаються на ризик надмірно довіряти системам, які не розуміють, або недовикористовувати їх через страх. І історія показує, що відбувається, коли особи, які ухвалюють рішення, неправильно читають технологію: регулятори колись намагалися заборонити міжнародні дзвінки з використанням IP, лише щоб побачити, як технологія випередила правила. Те саме відбувається з AI. Його не можна ні заблокувати, ні сліпо прийняти — потрібні судження, контекст і здатність відповідально спрямовувати його.

Лідерам у фінтеху потрібно закрити ці прогалини, щоб використовувати AI відповідально та ефективно. Це означає розуміти, де аналітика закінчується і де починається AI, розбудовувати навички для керування цими системами та застосовувати обґрунтовані судження, щоб вирішувати, коли й як довіряти результатам.

Обмеження, “сліпі зони” та ілюзії AI

Аналітика аналізує минулі й поточні дані, щоб пояснити, що сталося і чому. AI виростає на цій основі: використовує передову аналітику, щоб прогнозувати, що станеться далі, і дедалі частіше — вирішувати або діяти автоматично.

Завдяки винятковим навичкам обробки даних легко зрозуміти, чому лідери фінтеху можуть сприймати AI як “чарівну кулю”. Але він не може розв’язати кожну проблему. У людей усе ще є природна перевага в розпізнаванні патернів, особливо коли дані неповні або “брудні”. AI може важко інтерпретувати контекстні нюанси, які людина здатна швидко схопити.

Втім, помилково думати, що недосконалі дані роблять AI марним. Аналітичні моделі можуть працювати з неповними даними. Але знати, коли впроваджувати AI, а коли покладатися на людське судження, щоб заповнити прогалини — це справжній виклик. Без такого уважного нагляду AI може спричинити суттєві ризики.

Одна з таких проблем — упередженість (bias). Коли фінтех-компанії навчають AI на старих датасетах, вони часто успадковують багаж, який з ними приходить. Наприклад, ім’я клієнта може ненавмисно слугувати проксі для статі, або припущені підказки прізвища щодо етнічності можуть нахиляти скорингові бали за кредитом так, як жоден регулятор не схвалив би. Ці упередженості, легко приховані в математиці, часто потребують людського нагляду, щоб їх помітити й виправити.

Коли моделі AI потрапляють у ситуації, на які їх не навчали, це може спричинити дрейф моделі (model drift). Ринкова волатильність, зміни в регуляторних вимогах, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та повторного калібрування.

Складність повторного калібрування алгоритмів різко зростає, коли фінтех-компанії використовують “чорні ящики” (black boxes), які не дають змоги бачити взаємозв’язок між змінними. За таких умов вони втрачають можливість передати це знання особам, що ухвалюють рішення на рівні менеджменту. Крім того, помилки й упередженості залишаються прихованими в непрозорих моделях, підриваючи довіру та комплаєнс.

Що лідерам у фінтеху потрібно знати

Опитування Deloitte показало, що 80% стверджують: їхні ради мають мало або зовсім не мають досвіду з AI. Але керівники C-suite не можуть дозволити собі ставитися до AI як до проблеми “для технічної команди”. Відповідальність за AI лежить на керівництві, а отже лідерам у фінтеху потрібно підвищувати кваліфікацію.

Навички перехресної аналітики (cross-analytical fluency)

Перед впровадженням AI лідерам фінтеху потрібно вміти перемикати контекст — дивитися на цифри, бізнес-кейс, операції та етику — й бачити, як ці чинники перетинаються та формують результати застосування AI. Вони мають розуміти, як статистична точність моделі пов’язана з експозицією кредитного ризику. І розпізнавати, коли змінна, що виглядає фінансово обґрунтованою (наприклад, історія погашень), може вводити соціальний або регуляторний ризик через кореляцію із захищеним класом, таким як вік або етнічність.

Ця AI-грамотність народжується з роботи пліч-о-пліч із офіцерами з комплаєнсу, щоб розібратися в регуляціях, спілкування з менеджерами продуктів щодо користувацького досвіду та перегляду результатів моделей із дата-сайєнтистами, щоб упіймати ознаки дрейфу або упередженості.

У фінтеху уникнення 100% ризиків неможливе, але за наявності перехресної аналітичної грамотності лідери можуть точно визначити, які ризики варто брати, а які зруйнують цінність для акціонерів. Ця навичка також загострює здатність лідера помічати й діяти проти упередженості — не лише з погляду комплаєнсу, а й з позиції стратегічної та етичної.

Наприклад, якщо AI-модель кредитного скорингу, керована даними, зміщена на користь однієї групи клієнтів, виправлення цього дисбалансу — це не просто робота для data science; це захищає репутацію компанії. Для фінтех-компаній, які зобов’язані фінансовій інклюзії, або стикаються з перевіркою ESG, однієї лише юридичної відповідності недостатньо. Судження означає знати, що правильно, а не лише те, що дозволено.

Грамотність щодо пояснюваності (Explainability Literacy)

Пояснюваність — це основа довіри. Без неї особи, які ухвалюють рішення, клієнти й регулятори залишаються з питанням: чому модель прийшла до конкретного висновку.

Це означає, що керівники мають уміти відрізняти моделі, які є інтерпретованими, від тих, яким потрібні пояснення постфактум (post-hoc), наприклад значення SHAP або LIME. Їм потрібно ставити питання, коли логіка моделі незрозуміла, і розпізнавати, коли “точність” сама по собі не може обґрунтувати рішення “чорного ящика”.

Упередженості не з’являються з порожнечі; вони виникають тоді, коли моделі тренують і впроваджують без достатнього нагляду. Пояснюваність дає лідерам видимість, щоб виявити ці проблеми рано й діяти до того, як вони спричинять шкоду.

AI схожий на автопілот у літаку. У більшості випадків усе працює плавно, але коли приходить шторм, пілот має взяти керування на себе. У фінансах діє той самий принцип. Команди повинні мати можливість зупинити торгівлю, підправити стратегію або навіть “вимкнути” продуктовий запуск, коли умови змінюються. Пояснюваність працює разом із готовністю до ручного втручання (override readiness), що гарантує, що керівники C-suite розуміють AI та залишаються під контролем навіть тоді, коли він працює в масштабі.

Мислення у межах імовірнісних моделей (Probabilistic Model Thinking)

Керівники звикли до детермінованих рішень: наприклад, якщо кредитний скоринг нижчий за 650, відхилити заявку. Але AI працює інакше — і це є серйозним зсувом ментальної парадигми.

Для лідерів імовірнісне мислення передбачає три компетенції:

*   Інтерпретація діапазонів ризику замість двійкових результатів “так/ні”.
*   Зважування рівня впевненості прогнозу щодо інших бізнесових або регуляторних міркувань.
*   Знання, коли слід скасувати автоматизацію та застосувати людський розсуд.

Наприклад, імовірнісна AI-модель фінтеху може позначити клієнта як клієнта з високим ризиком, але це не обов’язково означає “відмовити”. Це може означати “провести додаткову перевірку” або “відкоригувати умови позики”. Без цього нюансу ризик автоматизації стає схожим на тупий інструмент: вона підриває довіру клієнтів і водночас підставляє компанії під регуляторний “відкат”.

Чому саме рівень судження визначить переможців у фінтеху

Майбутнє фінтеху не визначатиметься тим, у кого є найпотужніші AI-моделі; радше, тим, хто використовує їх із найгострішим судженням. Коли AI перетворюється на “товар” (commoditizes), вигоди від ефективності стають базовими вимогами. Відрізняє переможців здатність втручатися, коли алгоритми стикаються з невизначеністю, ризиками та “сірими зонами” з етики.

Рівень судження — це не абстрактна ідея. Він проявляється, коли керівники вирішують призупинити автоматизований трейдинг, відтермінувати запуск продукту або скасувати ризиковий скор, який не відповідає контексту реального світу. Ці моменти — не збої AI; це доказ того, що людський нагляд є останньою лінією створення цінності.

Стратегічне узгодження — це те місце, де судження стає інституційним. Сильна AI-стратегія не лише прокладає технічні дорожні карти; вона забезпечує, щоб організація переглядала ініціативи, підсилювала команди AI-навичками, гарантувала наявність потрібної архітектури даних і прив’язувала кожне впровадження до чіткого бізнес-результату. У цьому сенсі судження — не епізодичне, а вбудоване в операційний режим і дозволяє керівникам реалізовувати підхід до лідерства, заснований на цінності.

Фінтех-компаніям потрібні лідери, які знають, як збалансувати AI для швидкості та масштабу й людей для контексту, нюансів і довгострокового бачення. AI може знаходити аномалії за секунди, але лише люди можуть вирішити, коли відкинути те, “що говорить математика”, переосмислити припущення або взяти сміливий ризик, який відкриває двері для зростання. Саме цей шар судження перетворює AI з інструмента на перевагу.

Про автора:

Гільєрмо Дельгадо — Global AI Leader для Nisum і COO Deep Space Biology. Має понад 25 років досвіду в біохімії, штучному інтелекті, космічній біології та підприємництві; він розробляє інноваційні рішення для добробуту людини на Землі й у космосі.

Як корпоративний консультант зі стратегії, він долучався до AI-vision NASA для космічної біології та отримував нагороди за інновації. Він має ступінь Master of Science з Artificial Intelligence від Georgia Tech, здобутий з відзнакою. Крім того, як викладач університету, він викладав курси з машинного навчання, big data та геномної науки.