Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект у фінтеху охоплює широкий спектр застосувань, від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного рейтингу та персоналізованих рекомендацій продуктів. Однак у звіті Управління фінансового Conduct Authority зазначається, що з 75% компаній, що використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше неправильне розуміння сили та масштабів аналізу даних, дисципліни, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привело цю тему до керівних посад. Але багато з тих, хто вирішує, як впроваджувати ШІ, не розуміють його основних принципів калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, помічуючи закономірності у числах. ШІ базується на тому ж типі математики, просто масштабованій до мільйонів транзакцій одночасно. Знявши наклеп, основа залишається статистикою та алгоритмами.

Саме тому важливою є грамотність у галузі ШІ на рівні керівництва. Лідери, які не можуть розрізнити, де закінчується аналіз даних і починається ШІ, ризикують довіряти системам, яких не розуміють, або недоцільно їх використовувати через страх. І історія показує, що трапляється, коли прийняття рішень неправильно інтерпретує технології: регулятори колись намагалися заборонити міжнародні IP-зв’язки, але побачили, що технологія випередила правила. Така сама динаміка розгортається і з ШІ. Його не можна блокувати або сліпо впроваджувати; потрібен суджений підхід, контекст і здатність керувати ним відповідально.

Лідери у фінтеху повинні закрити ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти, де закінчується аналіз даних і починається ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналіз даних досліджує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передовий аналіз для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень або дій.

З його винятковими навичками обробки даних легко зрозуміти, чому лідери у фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка в тому, що неповні дані роблять ШІ марним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський суджений для заповнення прогалин. Без цього обережного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на старих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може неусвідомлено слугувати проксі для статі, або прізвище — ознакою етнічної приналежності, що може спотворювати кредитний рейтинг у спосіб, який жоден регулятор не затвердить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ стикаються з ситуаціями, на яких їх не тренували, це може спричинити зміщення моделі. Волатильність ринку, зміни у регулюванні, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати лідерам у фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради майже не мають досвіду з ШІ. Але керівники не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому лідерам у фінтеху потрібно підвищувати кваліфікацію.

Міжаналізна вміння

Перед впровадженням ШІ лідери мають вміти швидко перемикатися — аналізувати цифри, бізнес-кейс, операції та етику — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони повинні розуміти, як статистична точність моделі пов’язана з кредитним ризиком. І розпізнавати, коли змінна, яка здається фінансово обґрунтованою (як історія погашення), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, наприклад, віком або етнічністю.

Це вміння виникає через спільну роботу з фахівцями з комплаєнсу для розбору регуляцій, спілкування з менеджерами продуктів щодо досвіду користувачів і перегляд результатів моделей з дата-сайентістами для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнення ризиків неможливе, але з міжаналізною вмінням лідери можуть визначити, які ризики варто брати, а які зруйнують цінність для акціонерів. Це також покращує здатність керівників виявляти та діяти щодо упереджень, не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного скорингу, керована ШІ, сильно схиляється до одного сегмента клієнтів, виправлення цієї нерівності — не просто завдання для дата-науки; це захищає репутацію компанії. Для фінтехів, орієнтованих на фінансову інклюзію або що стикаються з ESG-оцінками, лише юридична відповідність недостатня. Судження означає знати, що правильно, а не лише що дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї прийняття рішень, клієнти та регулятори залишаються з питанням, чому модель дійшла до конкретного висновку.

Це означає, що керівники мають розрізняти моделі, які є інтерпретованими, і ті, що потребують постфактумних пояснень (як SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розпізнавати, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот літака. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей самий принцип застосовний. Команди мають здатність зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює у тандемі з готовністю до втручання, що гарантує, що керівники розуміють ШІ і залишаються у контролі, навіть коли він працює у масштабі.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижче 650, відмовити у заявці. Але ШІ працює інакше, і це — суттєва зміна ментальної парадигми.

Для лідерів ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень впевненості у прогнозі з урахуванням інших бізнес-або регуляторних аспектів.
*   Знати, коли слід перевищити автоматизацію і застосувати людське судження.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає “відмовити”. Це може означати “дослідити додатково” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень судження визначить переможців у фінтеху

Майбутнє фінтеху не визначатиме той, у кого найпотужніші моделі ШІ; а той, хто використовує їх із найгострішим судженням. Оскільки ШІ стає товаром, вигоди від підвищення ефективності стають базовими вимогами. Що відрізняє переможців — це здатність втрутитися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень судження — це не абстрактна ідея. Він проявляється, коли керівники вирішують зупинити автоматизовану торгівлю, відкласти запуск продукту або скасувати кредитний рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський контроль — остання лінія створення цінності.

Стратегічне узгодження — це місце, де судження стає інституціоналізованим. Сильна стратегія ШІ не лише створює технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних можливостей ШІ, гарантує наявність необхідної архітектури даних і зв’язує кожне впровадження із чітким бізнес-результатом. У цьому сенсі судження не є епізодичним, а закладене у режим роботи і дозволяє керівникам керувати на основі цінностей.

Фінтехи потребують лідерів, які знають, як балансувати ШІ для швидкості та масштабів і людей для контексту, нюансів і довгострокового бачення. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або зробити сміливий ризик, що відкриває шлях до зростання. Цей рівень судження — те, що перетворює ШІ із інструменту на перевагу.

Про автора:

Гільєрмо Дельгадо — глобальний лідер з ШІ у Nisum та операційний директор Deep Space Biology. З понад 25 роками досвіду у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського благополуччя на Землі та у космосі.

Як консультант з корпоративної стратегії, він зробив внесок у бачення NASA щодо ШІ для космічної біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту з Georgia Tech, здобутий з відзнакою. Крім того, як університетський викладач, він викладав курси з машинного навчання, великих даних і геномної науки.