Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партіда — головний редактор ReHack. Як письменниця, її роботи публікувалися в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події у сфері фінтех!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інші

Штучний інтелект (ШІ) — одна з найперспективніших, але й унікально тривожних технологій у фінтеху сьогодні. Тепер, коли DeepSeek надіслав хвилі потрясінь по всьому простору ШІ, його конкретні можливості та ризики вимагають уваги.

Хоча ChatGPT зробив генеративний ШІ масовим у 2022 році, DeepSeek підняв його на новий рівень, коли його модель DeepSeek-R1 була запущена у 2025 році.

Алгоритм є відкритим кодом і безкоштовним, але працює на рівні з платними приватними альтернативами. Тому це спокуслива бізнес-можливість для фінтех-компаній, які прагнуть скористатися ШІ, але це також ставить деякі етичні питання.

Рекомендовані читання:

*   **Модель DeepSeek R1 викликає дискусії щодо майбутнього розвитку ШІ**
*   **Модель ШІ DeepSeek: можливості та ризики для малих технологічних компаній**

Захист даних

Як і багато застосунків ШІ, захист даних є проблемою. Великі мовні моделі (LLMs), такі як DeepSeek, потребують значної кількості інформації, і у секторі фінтех багато з цих даних може бути чутливими.

DeepSeek має додаткову складність через те, що він є китайською компанією. Уряд Китаю може отримати доступ до всієї інформації на китайських дата-центрах або запитати дані у компаній у країні. Відповідно, модель може нести ризики, пов’язані з іноземним шпигунством і пропагандою.

Ще однією проблемою є витоки даних третіх сторін. DeepSeek уже зазнав витоку, що розкрив понад 1 мільйон записів, що може поставити під сумнів безпеку інструментів ШІ.

Упередження ШІ

Моделі машинного навчання, такі як DeepSeek, схильні до упереджень. Оскільки ШІ дуже добре вміє виявляти та навчатися на тонких патернах, які люди можуть пропустити, вони можуть приймати неусвідомлені упередження з навчальних даних. Навчаючись на такій упередженій інформації, вони можуть закріплювати та погіршувати проблеми нерівності.

Такі побоювання особливо актуальні у фінансах. Оскільки фінансові установи історично уникали можливостей для меншин, більша частина їхніх історичних даних демонструє значні упередження. Навчання DeepSeek на цих наборах даних може призвести до подальших упереджених дій, таких як відмова у кредитах або іпотеці на основі етнічної приналежності, а не кредитоспроможності.

Довіра споживачів

Оскільки питання, пов’язані з ШІ, все частіше з’являються у заголовках новин, громадськість стає дедалі підозрілішою щодо цих сервісів. Це може призвести до втрати довіри між фінтех-компанією та її клієнтами, якщо вона не буде прозоро керувати цими питаннями.

DeepSeek може стикнутися з унікальним бар’єром. За повідомленнями, компанія створила свою модель всього за 6 мільйонів доларів і, як швидкозростаюча китайська компанія, може нагадувати про проблеми з приватністю, що вплинули на TikTok. Громадськість може не бути готовою довіряти низькобюджетній, швидко розробленій моделі ШІ з їхніми даними, особливо коли уряд Китаю може мати певний вплив.

Як забезпечити безпечне та етичне впровадження DeepSeek

Ці етичні міркування не означають, що фінтех-компанії не можуть безпечно використовувати DeepSeek, але підкреслюють важливість обережної реалізації. Організації можуть впроваджувати DeepSeek етично та безпечно, дотримуючись цих найкращих практик.

Запускайте DeepSeek на локальних серверах

Один із найважливіших кроків — запускати інструмент ШІ на внутрішніх дата-центрах. Хоча DeepSeek є китайською компанією, його ваги моделі відкриті, що дозволяє запускати його на серверах у США та зменшити побоювання щодо порушень приватності з боку китайського уряду.

Однак не всі дата-центри однаково надійні. Ідеально, якщо фінтех-компанії зможуть розмістити DeepSeek на власному обладнанні. Якщо це неможливо, керівництво має ретельно обирати хостинг-партнера, який гарантує високий час роботи та стандарти безпеки, такі як ISO 27001 і NIST 800-53.

Обмежуйте доступ до чутливих даних

При створенні застосунку на базі DeepSeek фінтех-компанії мають враховувати, до яких даних модель може отримати доступ. ШІ має мати доступ лише до тих даних, які необхідні для виконання своєї функції. Також бажано очищати доступні дані від будь-якої непотрібної особистої ідентифікаційної інформації (PII).

Коли DeepSeek зберігатиме менше чутливих даних, будь-який витік матиме менший вплив. Мінімізація збору PII також є ключовою для дотримання законів, таких як Загальний регламент захисту даних (GDPR) та Закон Грамм-Ліча-Блілі (GLBA).

Впроваджуйте заходи кібербезпеки

Законодавства, такі як GDPR і GLBA, також зазвичай вимагають запровадження захисних заходів для запобігання витокам. Навіть поза межами таких законів, історія витоків DeepSeek підкреслює необхідність додаткових заходів безпеки.

Щонайменше, фінтехи мають шифрувати всі дані, доступні ШІ, у стані спокою та під час передачі. Регулярне тестування на проникнення для виявлення та усунення вразливостей також є бажаним.

Фінтех-організації також мають розглянути автоматизований моніторинг своїх застосунків DeepSeek, оскільки така автоматизація економить у середньому 2,2 мільйона доларів на витратах через швидше реагування та більш ефективне виявлення порушень.

Аудит та моніторинг усіх застосунків ШІ

Навіть після дотримання цих кроків важливо залишатися пильними. Перед запуском перевірте застосунок на базі DeepSeek на ознаки упереджень або вразливостей безпеки. Пам’ятайте, що деякі проблеми можуть бути непомітними спочатку, тому потрібен постійний огляд.

Створіть спеціальну команду для моніторингу результатів ШІ та забезпечення його етичності й відповідності регуляціям. Також важливо бути прозорими з клієнтами щодо цієї практики. Це допоможе зміцнити довіру у цій сумнівній галузі.

Фінтех-компанії мають враховувати етику ШІ

Дані у фінтеху особливо чутливі, тому всі організації в цій сфері мають серйозно ставитися до інструментів, що залежать від даних, таких як ШІ. DeepSeek може бути перспективним бізнес-ресурсом, але лише за умови дотримання строгих етичних і безпекових стандартів.

Якщо керівники фінтеху зрозуміють необхідність такої обережності, вони зможуть забезпечити безпечне та справедливе використання своїх інвестицій у DeepSeek та інші проекти ШІ.