Чому Жива структура є серцем просування інновацій у фінтех

Імран Афтаб, співзасновник і CEO 10Pearls.

Відкрийте для себе найкращі новини та події з фінтеху!

Підпишіться на розсилку FinTech Weekly

Читайте керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Фінанси завжди були рушієм цифрових інновацій, і недавня хвиля ШІ доводить, що це не виняток. Як індустрія, на яку дедалі більше тисне потреба надавати клієнтам швидші, більш персоналізовані та ефективні цифрові досвіди, вбудовування передових технологій є непідлягаючим обговоренню.

Коли фінтех-компанії виходять за межі експериментів зі ШІ та вбудовують його у свої ключові стратегії, питання полягає не в тому, яку цінність дає ШІ, а в тому, як він керується в часі. Без чітких керівних принципів, вбудованих у центральну рамку, фінтех-компанії дуже швидко зіткнуться з ризиками з погляду репутації, регуляторних вимог і безпеки.

Жива рамка не лише охоплює всі аспекти, але й робить це, тримаючи крок із еволюцією стратегій. Вона стимулює інновації, а не стримує їх — і при цьому не ставить під загрозу фінтех-компанії.

Досягнення балансу між справедливістю та точністю

Швидка цифровізація фінансових послуг також створює більше можливостей для потенційного шахрайства та кібератак. Однак неперейміряний ШІ часто стає жертвою галюцинацій і упередженості — тобто власників рахунків можуть помилково позначати саме ті системи, які призначені їх захищати.

Фінтех-компаніям потрібно гарантувати, що системи ШІ працюють послідовно та відповідають стандартам продуктивності. Погане управління даними є наріжним каменем неперейміряного ШІ та розростається до катастрофічних наслідків. Справа не лише в тому, щоб діяти в реальному часі, а в тому, щоб робити це точно й справедливо. Коли дані, що інформують ці системи, не обробляються належним чином, розгортання приречене на провал.

Уявіть систему ШІ, яку було сформовано на неправильно керованих і перекошених даних: вона помилково позначила законну велику транзакцію як шахрайство на основі поштового індексу власника рахунку. Певні демографічні групи виділяються на основі неточних історичних даних, що лише підсилює упередженість щодо людей або груп. Дискримінація не тільки шкодить довірі та відносинам, а й має довгострокові наслідки для репутації інституції, особливо коли вона безпосередньо порушує закони про захист споживачів. Фінтех-компанії мають юридичне зобов’язання справедливо та безпечно використовувати дані впродовж життєвого циклу системи ШІ, і саме не інструменти ставляться під питання, коли виникають порушення, а команди, які їх застосовують.

Наслідки посилюються поза цим. Такі сценарії створюють додаткове навантаження на команди, які тоді змушені втручатися, витрачаючи дорогоцінні людські ресурси та час. Критично важливо також те, що вони позначають серйозні прогалини в існуючій основі. Некеровані дані — це слабке місце в цифровій тканині фінтех-компанії, через яке вона стає вразливою до реального шахрайства та кіберзагроз.

Жива рамка управління нівелює ці ризики, адже вимагає безперервного моніторингу, тестування та пераліковування моделей ШІ. Це дає фінансовим постачальникам змогу максимально посилювати стійкість до загроз на постійній основі, одночасно регулярно оцінюючи й оновлюючи системи, коли змінюються дані та ризики. Водночас упередженість викорінюється, прокладаючи шлях до справедливості та точності протягом усього процесу.

Забезпечення пояснюваності та прозорості

Фінтех-компанії, які дотримуються живої рамки, не дозволяють ШІ працювати як «чорний ящик», де внутрішня логіка є загадкою як для команд, так і для користувачів. Власникам рахунків, персоналу та регуляторним органам потрібні гарантії у вигляді пояснюваності та прозорості щодо будь-якої інтегрованої технології.

Щоб викорінити упередженість, потрібно розуміти, як і чому інструмент ШІ дійшов рішення. Нині системи ШІ застосовують у процесах на кшталт кредитного скорингу, але, на жаль, вони не захищені від упередженості. Наслідки цього є серйозними: дискримінація, зокрема щодо меншин, яким непропорційно часто відмовляють у кредитах через хибний ШІ. Регуляторні норми на кшталт законів CFPB і Fair Lending вимагають пояснюваності та відстежуваності інструментів ШІ, які використовуються у фінансових послугах. Вони також вимагають, щоб упередженість була усунута з рівняння.

У моделі живого управління пояснюваність і відстежуваність закладені в кожен сценарій використання та робочий процес:

*   Джерела та призначення даних чітко протоколюються. 
*   Усі зміни моделей, тести та спостереження фіксуються.
*   Логіка прийняття рішень повідомляється так, щоб регулятори та клієнти, а не лише оператори, розуміли, як і чому система ШІ дійшла рекомендації або вчинила дію.

Гарантування відповідності AML

Фінансові установи звертаються до автоматизації та ШІ, щоб моніторити підозрілі транзакції та активність як частину систем протидії легалізації доходів, одержаних злочинним шляхом. Однак, коли ШІ не контролюється або не управляється належним чином, виникають дві проблеми:

*   Хибнопозитивні спрацювання: законні транзакції помилково позначаються, що призводить до розчарування клієнтів і марної витрати дорогоцінних людських ресурсів.
*   Хибнонегативні спрацювання: реальні загрози пропускаються, ставлячи під загрозу цілі набори даних і цифрові системи, підводячи репутацію організації під удар і руйнуючи довіру.

За підходом «управління як запобіжні обмежувачі» ці ризики мінімізуються завдяки добре керованим, прозорим і таким, що піддаються аудиту, даним. Чіткі сповіщення також інтегруються з негайними практичними висновками, щоб забезпечити швидке втручання, коли це потрібно.

Оскільки рішення на основі ШІ продовжують еволюціонувати, адаптивні живі рамки стають дедалі необхіднішими. Вони не тільки захищають і інституції, і окремих людей від потенційних ризиків участі ШІ, а й надають фінтех-компаніям значну конкурентну перевагу. Ці рамки забезпечують їм засоби для підсилення довіри та зміцнення репутації шляхом відповідального управління, справедливості та прозорості, а також забезпечення надійності й продуктивності.