Чому Жива структура є серцем просування інновацій у фінтех

Імран Афтеб, співзасновник та генеральний директор 10Pearls.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Фінанси завжди були прихильником цифрових інновацій, і недавня хвиля штучного інтелекту не є винятком. Як галузь, яка під постійним тиском для швидшої, більш персоналізованої та ефективної цифрової взаємодії з клієнтами, впровадження передових технологій є обов’язковим.

Коли фінтехи переходять від експериментів із ШІ до його інтеграції у свої основні стратегії, питання вже не стосується лише цінності, яку він приносить, а того, як ним керують з часом. Без чітких керівних принципів, закріплених у центральній структурі, фінтехи швидко зіштовхнуться з ризиками з репутаційної, регуляторної та безпекової точок зору.

Жива рамка не лише охоплює всі аспекти, але й робить це, йдучи в ногу з еволюцією стратегій. Вона стимулює, а не стримує інновації — без компромісів для фінтехів.

Знаходження балансу між справедливістю та точністю

Швидка цифровізація фінансових послуг також створює більше можливостей для потенційних шахрайств і кібератак. Однак, некерований ШІ часто піддається галюцинаціям і упередженням — тобто, що власників рахунків можуть неправомірно позначити системи, створені для їх захисту.

Фінтехи повинні забезпечити стабільну роботу систем ШІ та відповідність стандартам продуктивності. Погане управління даними є основою некерованого ШІ і може призвести до катастрофічних наслідків. Це не просто дія в реальному часі, а дія з точністю та справедливістю. Якщо дані, що інформують ці системи, неправильно керуються, розгортання приречене на провал.

Уявіть систему ШІ, неправильно інформовану через погане управління та спотворені дані, яка помилково позначила легітимну, велику транзакцію як шахрайство на основі поштового індексу власника рахунку. Деякі демографічні групи виділяються на основі неточних історичних даних, що лише посилює упередження проти окремих осіб або груп. Дискримінація не лише руйнує довіру та стосунки, але й має довгострокові наслідки для репутації установи, особливо коли вона порушує закони про захист споживачів. Фінтехи мають юридичний обов’язок справедливо та безпечно використовувати дані протягом усього життєвого циклу системи ШІ, і не інструменти є предметом питань, а команди, що їх використовують.

Наслідки виходять за межі цього. Такі сценарії створюють додатковий тиск на команди, які повинні втручатися, витрачаючи цінний час і людські ресурси. Важливо, що вони також виявляють серйозні прогалини у існуючій основі. Некеровані дані — це слабке місце цифрової тканини фінтеху, що робить його вразливим до реальних шахрайств і кібератак.

Жива рамка управління протидіє цим ризикам, оскільки вимагає постійного моніторингу, тестування та переналаштування моделей ШІ. Це дозволяє фінансовим провайдерам максимально підвищувати свою безпекову стійкість, регулярно оцінюючи та оновлюючи системи відповідно до змін даних і ризиків. Одночасно, упередження викорінюються, створюючи умови для справедливості та точності.

Забезпечення пояснюваності та прозорості

Фінтехи, що дотримуються живої рамки, запобігають функціонуванню ШІ як чорної скриньки, де його внутрішні процеси залишаються загадкою для команд і користувачів. Власники рахунків, співробітники та регуляторні органи потребують впевненості у формі пояснюваності та прозорості будь-яких інтегрованих технологій.

Викорінення упереджень вимагає розуміння того, як і чому інструмент ШІ прийшов до певного рішення. Системи ШІ тепер використовуються у процесах, таких як кредитне рейтингування, але, на жаль, вони не застраховані від упереджень. Наслідки цього серйозні: дискримінація, особливо проти меншин, яким відмовляють у позиках через несправедливий ШІ. Регуляції, такі як CFPB і закони про справедливе кредитування, вимагають пояснюваності та відслідковуваності інструментів ШІ, що використовуються у фінансових послугах. Вони також вимагають усунення упереджень із систем.

У моделі живого управління пояснюваність і відслідковуваність закорінені у кожен випадок використання та робочий процес:

* Джерела та цілі даних чітко фіксуються.
* Всі зміни моделей, тести та спостереження записуються.
* Логіка прийняття рішень передається так, щоб регулятори, клієнти і не лише оператори розуміли, як і чому система ШІ дійшла до рекомендації або дії.

Гарантія відповідності AML

Фінансові установи все частіше використовують автоматизацію та ШІ для моніторингу підозрілих транзакцій та активності у рамках систем протидії відмиванню грошей. Однак, коли ШІ неправильно керується або контролюється, виникають дві проблеми:

* Хибні спрацьовування: легітимні транзакції неправомірно позначаються, що викликає розчарування клієнтів і витрати цінних людських ресурсів.
* Хибні негативи: реальні загрози пропускаються, що ставить під загрозу цілі набори даних і цифрові системи, підриває репутацію організації і руйнує довіру.

З підходом управління як керівними рамками ці ризики мінімізуються через добре керовані, прозорі та піддавані аудиту дані. Чіткі сповіщення також інтегровані з негайними дієвими інсайтами для швидкого втручання за потреби.

Оскільки рішення ШІ продовжують розвиватися, все більш необхідними стають гнучкі, живі рамки. Вони не лише захищають установи та окремих осіб від потенційних ризиків участі ШІ, але й надають фінтехам значну конкурентну перевагу. Ці рамки оснащують їх засобами для підвищення довіри та репутації через відповідальне управління, справедливість і прозорість, а також забезпечують надійність і продуктивність.