Рівень судження: Чому ШІ не розумний, доки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — глобальний лідер зі штучного інтелекту в Nisum.

Дізнайтеся про найкращі новини та події у сфері фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інші

ШІ у фінтеху охоплює широкий спектр випадків використання: від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного скорингу та персоналізованих рекомендацій продуктів. Тим не менш, звіт Управління з фінансового контролю показав, що з 75% компаній, які використовують ШІ, лише 34% знають, як він працює.

Проблема не лише в нестачі обізнаності. Це глибоке нерозуміння потужності та масштабу аналітики даних, дисципліни, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ вивело цю тему на рівень вищого керівництва. Але багато хто з тих, хто обирає, як впроваджувати ШІ, не розуміють його основних принципів: математичного аналізу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, знаходячи закономірності в числах. ШІ ґрунтується на тій самій математиці, просто масштабованій на мільйони транзакцій одночасно. Приберіть галас, і основа все одно — статистика та алгоритми.

Ось чому ШІ-грамотність на рівні вищого керівництва має значення. Лідери, які не можуть визначити, де закінчується аналітика, ризикують або надмірно довіряти системам, яких не розуміють, або недостатньо їх використовувати через страх. А історія показує, що відбувається, коли особи, що приймають рішення, неправильно тлумачать технології: регулятори колись намагалися заборонити міжнародні IP-дзвінки, але технології випередили правила. Те саме відбувається зараз із ШІ. Ви не можете заблокувати його або сліпо впровадити; вам потрібні судження, контекст та здатність відповідально ним керувати.

Лідери фінтеху мають подолати ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти, де закінчується аналітика і починається ШІ, розвивати навички керування цими системами та застосовувати здорові судження, щоб вирішувати, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та теперішні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи розширену аналітику для прогнозування того, що станеться далі, і, дедалі частіше, для автоматичного прийняття рішень або дій.

Завдяки винятковим навичкам обробки даних легко зрозуміти, чому лідери фінтеху вважають ШІ своєю чарівною кулею. Але він не може вирішити всі проблеми. Люди все ще мають вроджену перевагу в розпізнаванні образів, особливо коли дані неповні або «брудні». ШІ може важко інтерпретувати контекстуальні нюанси, які людина швидко схоплює.

Проте помилково вважати, що недосконалі дані роблять ШІ марним. Аналітичні моделі можуть працювати з неповними даними. Але знати, коли використовувати ШІ, а коли покладатися на людське судження, щоб заповнити прогалини, — справжній виклик. Без такого ретельного нагляду ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтех-компанії навчають ШІ на старих наборах даних, вони часто успадковують пов'язаний з ними багаж. Наприклад, ім'я клієнта може ненавмисно слугувати замінником статі, а прізвище — вказувати на етнічну приналежність, зміщуючи кредитні рейтинги так, що жоден регулятор не схвалив би. Ці упередження, легко приховані в математиці, часто потребують людського нагляду для виявлення та виправлення.

Коли моделі ШІ піддаються впливу ситуацій, на яких вони не навчалися, це може спричинити дрейф моделі. Ринкова волатильність, регуляторні зміни, зміна поведінки клієнтів та макроекономічні зрушення — все це може вплинути на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів різко зростає, коли фінтех-компанії використовують «чорні скриньки», які не дозволяють бачити зв'язок між змінними. За таких умов вони втрачають можливість передати ці знання особам, що приймають рішення в управлінні. Крім того, помилки та упередженість залишаються прихованими в непрозорих моделях, підриваючи довіру та відповідність вимогам.

Що потрібно знати лідерам фінтеху

Опитування Deloitte показало, що 80% респондентів стверджують, що їхні ради директорів мають незначний досвід роботи з ШІ або не мають його взагалі. Але керівники вищої ланки не можуть дозволити собі ставитися до ШІ як до «проблеми IT-команди». Відповідальність за ШІ лежить на керівництві, а це означає, що лідери фінтеху повинні підвищувати свою кваліфікацію.

Міждисциплінарна аналітична грамотність

Перш ніж впроваджувати ШІ, лідери фінтеху повинні вміти перемикати передачі — дивитися на цифри, бізнес-кейс, операції та етику — і бачити, як ці фактори перетинаються та формують результати ШІ. Їм потрібно розуміти, як статистична точність моделі пов'язана з кредитним ризиком. І розпізнавати, коли змінна, яка виглядає фінансово обґрунтованою (наприклад, історія погашення), може створити соціальний чи регуляторний ризик через кореляцію із захищеною категорією, такою як вік чи етнічна приналежність.

Ця ШІ-грамотність виникає під час спільної роботи з фахівцями з комплаєнсу для аналізу нормативних вимог, розмов з менеджерами з продукту про користувацький досвід та перегляду результатів моделей з дата-сайентистами для виявлення ознак дрейфу чи упередженості.

У фінтеху уникнення 100% ризику неможливе, але завдяки міждисциплінарній аналітичній грамотності лідери можуть визначити, які ризики варті того, а які підірвуть акціонерну вартість. Ця навичка також загострює здатність лідера помічати та реагувати на упередженість не лише з точки зору комплаєнсу, але й зі стратегічної та етичної.

Наприклад, припустимо, що модель кредитного скорингу на основі ШІ сильно зміщена в бік однієї групи клієнтів. Виправлення цього дисбалансу — це не просто завдання для дата-сайєнтистів; це захищає репутацію компанії. Для фінтех-компаній, які прагнуть фінансової інклюзії або стикаються з перевіркою ESG, однієї лише юридичної відповідності недостатньо. Судження означає знання того, що правильно, а не лише те, що дозволено.

Грамотність у пояснюваності

Пояснюваність — це основа довіри. Без неї особи, що приймають рішення, клієнти та регулятори залишаються з питанням, чому модель дійшла певного висновку.

Це означає, що керівники повинні вміти розрізняти моделі, які є інтерпретованими, і ті, що потребують пост-хок пояснень (наприклад, SHAP або LIME). Їм потрібно ставити питання, коли логіка моделі незрозуміла, і визнавати, коли однієї «точності» недостатньо, щоб виправдати рішення «чорної скриньки».

Упередженість не виникає з повітря; вона з'являється, коли моделі навчаються та впроваджуються без достатнього нагляду. Пояснюваність дає лідерам змогу виявляти ці проблеми на ранніх етапах і діяти, перш ніж вони завдадуть шкоди.

ШІ подібний до автопілота в літаку. Більшу частину часу він працює гладко, але коли починається шторм, пілот має взяти керування на себе. У фінансах діє той самий принцип. Команди повинні мати можливість зупинити торгівлю, скоригувати стратегію або навіть припинити запуск продукту, коли умови змінюються. Пояснюваність працює рука об руку з готовністю до перевизначення, що гарантує, що керівники вищої ланки розуміють ШІ та залишаються при владі, навіть коли він працює в масштабі.

Імовірнісне мислення в моделях

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижче 650, відхилити заявку. Але ШІ працює не так, і це є серйозним зсувом ментальної парадигми.

Для лідерів імовірнісне мислення вимагає трьох навичок:

*   Інтерпретація діапазонів ризику, а не бінарних результатів «так/ні».
*   Зважування рівня впевненості прогнозу з іншими бізнесовими чи регуляторними міркуваннями.
*   Знання, коли перевизначити автоматизацію та застосувати людське рішення.

Наприклад, імовірнісна модель ШІ фінтех-компанії може позначити клієнта як високоризикового, але це не обов'язково означає «відмовити». Це може означати «розслідувати далі» або «скоригувати умови кредиту». Без цього нюансу автоматизація ризикує стати тупим інструментом, підриваючи довіру клієнтів і наражаючи компанії на регуляторні наслідки.

Чому рівень судження визначить переможців у фінтеху

Майбутнє фінтеху вирішуватиметься не тим, у кого найпотужніші моделі ШІ; а радше тим, хто використовує їх з найгострішим судженням. Оскільки ШІ стає товаром, переваги в ефективності стають обов'язковою умовою. Те, що відрізняє переможців, — це здатність втручатися, коли алгоритми стикаються з невизначеністю, ризиком та етичними сірими зонами.

Рівень судження — не абстрактна ідея. Він проявляється, коли керівники вирішують призупинити автоматизовану торгівлю, відкласти запуск продукту або перевизначити оцінку ризику, яка не відображає реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський нагляд є останньою лінією створення цінності.

Стратегічне узгодження — це те, де судження інституціоналізується. Сильна стратегія ШІ не просто встановлює технічні дорожні карти; вона гарантує, що організація переглядає ініціативи, підвищує ШІ-спроможності команд, забезпечує необхідну архітектуру даних і пов'язує кожне впровадження з чітким бізнес-результатом. У цьому сенсі судження є не епізодичним, а вбудованим у режим роботи і дозволяє керівникам реалізовувати ціннісно-орієнтований підхід до лідерства.

Фінтех-компаніям потрібні лідери, які знають, як балансувати ШІ для швидкості та масштабу, а людей — для контексту, нюансів і довгострокового бачення. ШІ може виявляти аномалії за секунди, але лише люди можуть вирішити, коли заперечити математику, переосмислити припущення або піти на сміливий ризик, який відкриває двері для зростання. Цей рівень судження перетворює ШІ з інструменту на перевагу.

Про автора:

Гільєрмо Дельгадо — глобальний лідер зі штучного інтелекту в компанії Nisum і COO компанії Deep Space Biology. Маючи понад 25 років досвіду в біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для добробуту людини на Землі та в космосі.

Як корпоративний стратегічний консультант, він зробив внесок у бачення NASA щодо ШІ для космічної біології та отримав нагороди за інновації. Він має ступінь магістра наук зі штучного інтелекту в Технологічному інституті Джорджії, отриманий з відзнакою. Крім того, як університетський професор, він викладав курси з машинного навчання, великих даних та геномної науки.