Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партіда — головна редакторка ReHack. Як авторка її матеріали були представлені в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події з фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект (ШІ) — одна з найперспективніших, але водночас особливо тривожних технологій у fintech сьогодні. Тепер, коли DeepSeek розіслав шокуючі відлуння по всьому сектору ШІ, його конкретні можливості та ризики потребують уваги.

Поки ChatGPT у 2022 році вивів генеративний ШІ у масовий простір, DeepSeek підняв його на нові висоти, коли в 2025 році з’явилася модель DeepSeek-R1.

Алгоритм є відкритим і безкоштовним, але працював на порівнянному рівні з платними пропрієтарними альтернативами. Тому це спокуслива бізнес-можливість для фінтех-компаній, які прагнуть скористатися ШІ, але також це піднімає деякі етичні питання.

Рекомендовані матеріали для читання:

*   **Модель DeepSeek R1 викликає дискусію про майбутнє розробки ШІ**
*   **AI-модель DeepSeek: можливості та ризики для малих технологічних компаній**

Конфіденційність даних

Як і в багатьох застосунках ШІ, конфіденційність даних є питанням, що турбує. Великі мовні моделі (LLM), такі як DeepSeek, потребують значного обсягу інформації, а в такій сфері, як фінтех, багато цих даних можуть бути чутливими.

DeepSeek має додаткову складність: він є китайською компанією. Уряд Китаю може отримати доступ до всієї інформації в дата-центрах, що належать китайським власникам, або вимагати дані від компаній у межах країни. Отже, модель може створювати ризики, пов’язані із закордонним шпигунством і пропагандою.

Витоки даних від третіх сторін — ще одна проблема. DeepSeek уже зазнав витоку, який розкрив понад 1 мільйон записів, що може поставити під сумнів безпеку інструментів ШІ.

упередженість ШІ

Машинні навчальні моделі на кшталт DeepSeek схильні до упередженості. Оскільки моделі ШІ настільки добре виявляють і навчаються на тонких патернах, які люди можуть не помітити, вони можуть переймати неусвідомлені упередження з даних свого навчання. Коли вони навчаються на перекошеній інформації, вони можуть підтримувати та погіршувати проблеми нерівності.

Такі страхи особливо помітні в фінансах. Оскільки фінансові установи історично позбавляли меншини можливостей, значна частина їхніх історичних даних демонструє суттєву упередженість. Навчання DeepSeek на цих наборах даних може призвести до подальших упереджених дій — наприклад, ШІ відмовлятиме в кредитах або іпотеці на основі етнічності людини, а не її кредитоспроможності.

Довіра споживачів

Оскільки питання, пов’язані зі ШІ, заповнили заголовки, загальна аудиторія стала дедалі підозрілішою щодо цих сервісів. Це може призвести до ерозії довіри між фінтех-бізнесом і його клієнтами, якщо компанія не керує цими занепокоєннями прозоро.

DeepSeek може зіткнутися тут із унікальною перепоною. З огляду на повідомлення, компанія створила свою модель лише за $6 мільйонів, і, будучи швидкозростаючою китайською компанією, вона може наводити людям на думки про проблеми конфіденційності, які зачепили TikTok. Громадськість може не бути готовою довіряти малобюджетній і швидко розробленій моделі ШІ своїми даними, особливо коли уряд Китаю може мати певний вплив.

Як забезпечити безпечне та етичне розгортання DeepSeek

Ці етичні міркування не означають, що фінтех-компанії не можуть використовувати DeepSeek безпечно, але вони підкреслюють важливість ретельного впровадження. Організації можуть розгортати DeepSeek етично та безпечно, дотримуючись цих найкращих практик.

Запускайте DeepSeek на локальних серверах

Один із найважливіших кроків — запускати інструмент ШІ на власних дата-центрах. Хоча DeepSeek — китайська компанія, її ваги моделі є відкритими, тож це дає змогу запускати її на серверах у США та зменшити занепокоєння щодо витоків конфіденційності з боку китайського уряду.

Однак не всі дата-центри однаково надійні. Ідеально, коли фінтех-компанії розміщують DeepSeek на власному обладнанні. Якщо це неможливо, керівництву слід обирати хост зважено — лише партнеритися з тими, хто гарантує високу безперебійну роботу (uptime) та стандарти безпеки на кшталт ISO 27001 і NIST 800-53.

Зменшуйте доступ до чутливих даних

Під час створення застосунку на базі DeepSeek фінтех-компанії мають продумати, до яких типів даних модель може отримувати доступ. ШІ має мати доступ лише до того, що потрібно для виконання його функції. Також ідеально видаляти з доступних даних будь-яку непотрібну персонально ідентифікуючу інформацію (PII).

Коли DeepSeek зберігає менше чутливих деталей, будь-який інцидент витоку матиме менш відчутний вплив. Мінімізація збору PII також є ключовою для залишанняся в межах вимог законів на кшталт General Data Protection Regulation (GDPR) і Gramm-Leach-Bliley Act (GLBA).

Упроваджуйте засоби кібербезпеки

Регламенти на кшталт GDPR і GLBA зазвичай також вимагають захисних заходів, щоб запобігти витокам у першу чергу. Навіть поза межами такого законодавства, історія DeepSeek із витоками підкреслює потребу в додаткових гарантіях безпеки.

Щонайменше фінтех-компанії мають шифрувати всі дані, доступні для ШІ, як під час зберігання (at rest), так і під час передавання (in transit). Регулярне тестування на проникнення для виявлення та виправлення вразливостей також є ідеальним варіантом.

Фінтех-організаціям також варто розглянути автоматизований моніторинг їхніх застосунків DeepSeek, адже така автоматизація в середньому економить $2,2 мільйона на витратах, пов’язаних із витоками завдяки швидшим і ефективнішим відповідям.

Аудит і моніторинг усіх застосунків ШІ

Навіть після виконання цих кроків критично важливо залишатися пильними. Проведіть аудит застосунку на базі DeepSeek перед розгортанням, щоб виявити ознаки упередженості або вразливостей безпеки. Пам’ятайте, що деякі проблеми можуть бути непомітними спочатку, тож потрібен постійний перегляд.

Створіть окрему робочу групу, щоб моніторити результати рішення на основі ШІ та гарантувати, що воно залишається етичним і відповідає будь-яким регуляціям. Також доцільно бути прозорими з клієнтами щодо цієї практики. Таке заспокоєння може допомогти сформувати довіру в іншому випадку сумнівній сфері.

Фінтех-компанії мають враховувати етику ШІ

Фінтех-дані є особливо чутливими, тож усі організації в цьому секторі мають сприймати інструменти, що покладаються на дані, як-от ШІ, серйозно. DeepSeek може бути перспективним бізнес-ресурсом, але лише якщо його використання відповідає суворим етичним і безпековим рекомендаціям.

Коли керівники фінтеху зрозуміють потребу в такій обережності, вони зможуть гарантувати, що їхні інвестиції в DeepSeek та інші проєкти зі ШІ залишатимуться безпечними та справедливими.