Чому Жива структура є серцем просування інновацій у фінтех

Імран Афтаб, співзасновник і генеральний директор 10Pearls.

Відкрийте для себе топові новини та події з фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та багатьох інших

Фінанси завжди були чемпіоном цифрових інновацій, і недавня хвиля ШІ доводить, що винятків немає. Як індустрія, що дедалі більше перебуває під тиском необхідності надавати клієнтам швидші, персоналізованіші та ефективніші цифрові досвіди, впровадження передових технологій є непорушною умовою.

Коли фінтехи переходять від експериментів із ШІ до вбудовування його в свої ключові стратегії, питання полягає не в тому, яку цінність дає ШІ, а в тому, як ним керують у часі. Без чітких керівних принципів, вбудованих у центральну рамку, фінтехи швидко зіткнуться з ризиками з точки зору репутації, регуляторних вимог і безпеки.

Жива рамка не лише охоплює всі аспекти, а й робить це, йдучи в ногу з еволюцією стратегій. Вона стимулює, а не стримує інновації — без шкоди для фінтехів у процесі.

Пошук балансу між справедливістю та точністю

Швидка цифровізація фінансових послуг також створює більше можливостей для потенційного шахрайства та кібератак. Однак некерований ШІ часто стає жертвою галюцинацій і упередженості — тобто держателі рахунків можуть помилково потрапляти під позначки самих систем, призначених для їхнього захисту.

Фінтехи мають гарантувати, що системи ШІ працюють послідовно й відповідають стандартам продуктивності. Погане управління даними є наріжним каменем некерованого ШІ та перетворюється на катастрофічні наслідки. Це не питання лише того, щоб діяти в реальному часі, а робити це точно і справедливо. Коли дані, що інформують ці системи, не обробляються належним чином, розгортання приречене на провал.

Уявіть систему ШІ, яку ввели в оману через погано керовані та перекошені дані, яка помилково позначила законну велику транзакцію як шахрайство на основі поштового індексу (zip code) держателя рахунку. Певні демографічні групи виокремлюються на підставі неточних історичних даних, що лише підсилює упередженість проти людей або груп. Дискримінація не лише руйнує довіру та стосунки, а й має довгострокові наслідки для репутації установи, особливо тому, що напряму порушує закони про захист споживачів. Фінтехи мають юридичне зобов’язання справедливо та безпечно використовувати дані впродовж усього життєвого циклу системи ШІ, і питання не в інструментах, які піднімають під сумнів, коли виникають порушення, а в командах, що їх застосовують.

Наслідки посилюються й далі. Такі сценарії створюють додаткове навантаження на команди, які потім мають втручатися, марнуючи дорогоцінні людські ресурси й час. Ключове те, що вони також виявляють серйозні прогалини в наявній основі. Некеровані дані є слабким місцем у цифровій тканині фінтеху, через що він стає вразливим до реального шахрайства та кіберзагроз.

Жива рамка управління протидіє цим ризикам, оскільки вимагає безперервного моніторингу, тестування та переналаштування моделей ШІ. Це дозволяє фінансовим постачальникам максимізувати надійність безпеки на постійній основі та регулярно оцінювати й оновлювати системи, коли дані й ризики змінюються. Водночас упередженість викорінюється, прокладаючи шлях до справедливості та точності впродовж усього процесу.

Забезпечення пояснюваності та прозорості

Фінтехи, що дотримуються живої рамки, не дозволяють ШІ працювати як чорна скринька, де внутрішні механізми є загадкою для команд і користувачів однаково. Держателі рахунків, персонал і регуляторні органи потребують впевненості у вигляді пояснюваності та прозорості щодо будь-якої інтегрованої технології.

Викорінення упередженості потребує розуміння того, як і чому інструмент ШІ дійшов певного рішення. Системи ШІ нині використовуються в процесах на кшталт скорингу для кредитів, але, на жаль, вони не захищені від упередженості. Наслідки цього є серйозними: дискримінація, зокрема проти меншин, яким непропорційно часто відмовляють у кредитах через хибний ШІ. Регламенти на кшталт CFPB і закони про справедливе кредитування вимагають пояснюваності та відстежуваності інструментів ШІ, що використовуються у фінансових послугах. Вони також вимагають усунути упередженість із рівняння.

У живій моделі управління пояснюваність і відстежуваність вбудовані в кожен сценарій використання та робочий процес:

*   Джерела та кінцеві пункти даних чітко логуються. 
*   Усі зміни моделей, тести та спостереження фіксуються.
*   Логіка рішень повідомляється так, щоб регулятори та клієнти, а не лише оператори, розуміли, як і чому система ШІ дійшла рекомендації або виконала певну дію.

Гарантування дотримання вимог AML

Фінансові установи звертаються до автоматизації та ШІ, щоб відстежувати підозрілі транзакції й активність у межах систем протидії відмиванню грошей. Однак коли ШІ не належно наглядають або не керують ним, виникають дві проблеми:

*   Хибнопозитивні спрацювання: законні транзакції помилково позначаються, що призводить до розчарованих клієнтів і марнування дорогоцінних людських ресурсів.
*   Хибнонегативні пропуски: реальні загрози залишаються непоміченими, під загрозою опиняються цілі масиви даних і цифрові системи, наражаючи репутацію організації на ризик і руйнуючи довіру.

За підходом governance-as-guardrails (управління як захисні бар’єри) ці ризики мінімізуються завдяки добре керованим, прозорим і таким, що піддаються аудиту, даним. Чіткі сповіщення також інтегруються з негайними дієвими інсайтами, щоб забезпечити швидке втручання, коли це потрібно.

Оскільки рішення на базі ШІ продовжують еволюціонувати, все більш необхідними стають адаптивні живі рамки. Вони не лише захищають установи й окремих осіб від потенційних ризиків участі ШІ, а й надають фінтехам суттєву конкурентну перевагу. Ці рамки дають їм інструменти для нарощування довіри та посилення репутації завдяки підзвітному управлінню, справедливості та прозорості, а також забезпечують надійність і продуктивність.