Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект у фінтеху охоплює широкий спектр застосувань, від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного рейтингу та персоналізованих рекомендацій продуктів. Однак у звіті Управління фінансового регулювання та нагляду (Financial Conduct Authority) зазначено, що з 75% компаній, що використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше неправильне розуміння сили та масштабів аналізу даних, дисципліни, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привело цю тему до керівних посад. Але багато з тих, хто визначає, як впроваджувати ШІ, не розуміють його основних принципів калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, помічуючи закономірності у числах. ШІ базується на тому ж типі математики, просто масштабованій до мільйонів транзакцій одночасно. Знявши наклеп, основа залишається статистикою та алгоритмами.

Саме тому важливою є грамотність у галузі ШІ на рівні керівництва. Лідери, які не можуть розрізнити, де закінчується аналіз даних і починається ШІ, ризикують довіряти системам, яких не розуміють, або недооцінювати їх через страх. І історія показує, що трапляється, коли прийняття рішень неправильно інтерпретує технології: регулятори колись намагалися заборонити міжнародні IP-зв’язки, але побачили, що технологія випередила правила. Така сама динаміка спостерігається і з ШІ. Його не можна блокувати або сліпо впроваджувати; потрібен суджений підхід, контекст і здатність керувати ним відповідально.

Лідери у фінтеху повинні закрити ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти, де закінчується аналіз даних і починається ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для прийняття рішень, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналіз даних досліджує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передовий аналіз для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень або дій.

З його винятковими навичками обробки даних легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка в тому, що неповні дані роблять ШІ марним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський суджений розум для заповнення прогалин. Без цього обережного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на старих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може випадково слугувати проксі для статі, або прізвище — для етнічної приналежності, що може спотворювати кредитний рейтинг у спосіб, який жоден регулятор не затвердить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ стикаються з ситуаціями, на яких їх не тренували, це може спричинити зміщення моделі (model drift). Волатильність ринку, зміни у регулюванні, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам у фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради майже не мають досвіду з ШІ. Але керівники вищого рівня не можуть дозволити собі вважати ШІ проблемою лише технічної команди. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Міжаналізна вільність

Перед впровадженням ШІ керівники фінтеху повинні вміти швидко перемикатися — аналізувати цифри, бізнес-кейс, операції та етику — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони мають розуміти, як статистична точність моделі пов’язана з кредитним ризиком. І розпізнавати, коли змінна, що здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця грамотність у галузі ШІ виникає через спільну роботу з офіцерами з відповідності, спілкування з менеджерами продуктів щодо досвіду користувача та перегляд результатів моделей з даними науковцями для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнути ризиків неможливо, але за допомогою міжаналізної вільності керівники можуть визначити, які ризики варто брати, а які зруйнують цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість, не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного рейтингу, побудована на ШІ, сильно схиляється до одного сегмента клієнтів. Виправлення цієї нерівності — не просто завдання для науки про дані; це захист репутації компанії. Для фінтехів, що прагнуть фінансової інклюзії або піддаються ESG-оцінюванню, лише юридична відповідність недостатня. Суджений підхід означає знати, що правильно, а не лише що дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї прийняття рішень, клієнти та регулятори залишаються з питаннями, чому модель дійшла до конкретного висновку.

Це означає, що керівники повинні розрізняти моделі, які є інтерпретованими, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розпізнавати, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот літака. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей самий принцип застосовний. Команди повинні мати можливість зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює у тандемі з готовністю до втручання, що гарантує, що керівники розуміють ШІ і залишаються у контролі, навіть коли він працює у масштабі.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижче 650 — відмовити у кредиті. Але ШІ працює інакше, і це — суттєва зміна ментальної парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень впевненості у прогнозі з урахуванням інших бізнесових або регуляторних аспектів.
*   Знати, коли слід перевищити автоматизацію і застосувати людське рішення.

Наприклад, ймовірнісна модель ШІ у фінтеху може позначити клієнта як високоризикового, але це не означає “відмовити”. Це може означати “дослідити далі” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень суджень визначатиме переможців у фінтеху

Майбутнє фінтеху не визначатиме, хто має найпотужніші моделі ШІ, а хто використовує їх із найгострішим суджень. Оскільки ШІ стає товаром, вигоди від підвищення ефективності стають базовими вимогами. Що відрізняє переможців — це здатність втрутитися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень суджень — це не абстрактна ідея. Він проявляється, коли керівники вирішують зупинити автоматизовану торгівлю, відкласти запуск продукту або перевірити ризиковий бал, що не враховує реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський контроль — останній рівень створення цінності.

Стратегічне узгодження — це місце, де суджень стає інституціоналізованим. Сильна стратегія ШІ не лише створює технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок ШІ, гарантує наявність необхідної архітектури даних і зв’язує кожне впровадження з чітким бізнес-результатом. У цьому сенсі суджень не є епізодичним, а закладений у режим роботи і дозволяє керівникам керувати на основі цінностей.

Фінтехи потребують лідерів, які знають, як балансувати ШІ для швидкості та масштабів і людський фактор для контексту, нюансів і довгострокового бачення. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або зробити сміливий ризик, що відкриває шлях до зростання. Цей рівень суджень — те, що перетворює ШІ із інструменту на перевагу.

Про автора:

Гільєрмо Дельгадо — глобальний лідер з ШІ у Nisum та операційний директор Deep Space Biology. З понад 25-річним досвідом у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського благополуччя на Землі та у космосі.

Як консультант з корпоративної стратегії, він зробив внесок у бачення NASA щодо ШІ для космічної біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту від Georgia Tech, здобутий з відзнакою. Крім того, він викладає у університеті курси з машинного навчання, великих даних і геномної науки.