Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партіда — головний редактор ReHack. Як письменниця, її роботи публікувалися в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події у сфері фінтех!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект (ШІ) — одна з найперспективніших, але й найособливіше тривожних технологій у фінтеху сьогодні. Після того, як DeepSeek спричинив хвилю обговорень у сфері ШІ, його можливості та ризики вимагають уваги.

Хоча ChatGPT зробив генеративний ШІ популярним у 2022 році, DeepSeek підняв його на новий рівень з запуском моделі DeepSeek-R1 у 2025 році.

Алгоритм є відкритим і безкоштовним, але демонструє результати, подібні до платних приватних альтернатив. Тому це приваблива бізнес-можливість для фінтех-компаній, які прагнуть використати ШІ, але це також піднімає етичні питання.

Рекомендувані статті:

*   **Модель DeepSeek-R1 викликає дискусії щодо майбутнього розвитку ШІ**
*   **Модель ШІ DeepSeek: можливості та ризики для малих технологічних компаній**

Захист даних

Як і у багатьох застосунках ШІ, питання конфіденційності даних є актуальним. Великі мовні моделі (LLMs), такі як DeepSeek, потребують значної кількості інформації, а у сфері фінтеху багато з цих даних можуть бути чутливими.

DeepSeek ускладнює ситуацію тим, що є китайською компанією. Уряд Китаю може отримати доступ до всієї інформації з китайських дата-центрів або запитати дані у компаній у країні. Це створює ризики, пов’язані з іноземним шпигунством і пропагандою.

Ще однією проблемою є витоки даних третіх сторін. DeepSeek уже зазнав витоку, що розкрив понад 1 мільйон записів, що може поставити під сумнів безпеку інструментів ШІ.

Упередження у ШІ

Моделі машинного навчання, такі як DeepSeek, схильні до упереджень. Оскільки ШІ дуже добре виявляє та навчається на тонких патернах, які люди можуть пропустити, вони можуть засвоювати неусвідомлені стереотипи з навчальних даних. Навчаючись на такій упередженій інформації, вони можуть сприяти та погіршувати нерівність.

Ці побоювання особливо актуальні у фінансах. Оскільки фінансові установи історично обмежували можливості для меншин, їхні історичні дані містять значні упередження. Навчання DeepSeek на таких даних може призвести до ще більш упереджених дій, наприклад, відмови у кредитах або іпотеці на основі етнічної приналежності, а не кредитоспроможності.

Довіра споживачів

Зі зростанням кількості новин про проблеми ШІ, громадськість стає все більш підозрілою до таких сервісів. Це може призвести до втрати довіри між фінтех-компанією та її клієнтами, якщо компанія не буде прозоро керувати цими питаннями.

DeepSeek може стикнутися з особливими бар’єрами. За повідомленнями, компанія створила свою модель за 6 мільйонів доларів і, як швидкозростаюча китайська компанія, може нагадувати про проблеми з приватністю, що виникли навколо TikTok. Громадськість може не бути готовою довіряти низькобюджетній, швидко розробленій моделі ШІ з їхніми даними, особливо якщо на неї може впливати китайський уряд.

Як забезпечити безпечне та етичне впровадження DeepSeek

Ці етичні питання не означають, що фінтех-компанії не можуть безпечно використовувати DeepSeek, але підкреслюють важливість обережної реалізації. Організації можуть впроваджувати DeepSeek етично та безпечно, дотримуючись таких найкращих практик.

Запускайте DeepSeek на локальних серверах

Один із найважливіших кроків — запускати ШІ на внутрішніх дата-центрах. Хоча DeepSeek — китайська компанія, її ваги моделі відкриті, що дозволяє запускати її на серверах у США та зменшити ризики витоку даних через китайський уряд.

Однак не всі дата-центри однаково надійні. Ідеально, якщо фінтех-компанії зможуть розмістити DeepSeek на власному обладнанні. Якщо це неможливо, керівництво має обрати хостинг-партнера з високими стандартами безпеки, такими як ISO 27001 і NIST 800-53.

Обмежте доступ до чутливих даних

При створенні застосунку на базі DeepSeek компанії мають враховувати, до яких даних модель може мати доступ. ШІ має мати доступ лише до необхідної інформації для виконання своєї функції. Також бажано очищати доступні дані від будь-якої непотрібної особистої ідентифікаційної інформації (PII).

Менше чутливих даних — менше ризиків у разі витоку. Обмеження збору PII також важливе для відповідності законам, таким як Загальний регламент захисту даних (GDPR) і Закон Грамм-Ліча-Блілі (GLBA).

Впроваджуйте заходи кібербезпеки

Законодавства, такі як GDPR і GLBA, зазвичай вимагають запровадження заходів для запобігання витокам. Навіть без законодавчих вимог, історія витоків DeepSeek підкреслює необхідність додаткових заходів безпеки.

Щонайменше, фінтехи мають шифрувати всі дані, доступні ШІ, у стані спокою та під час передачі. Регулярне тестування на проникнення для виявлення та усунення вразливостей також є бажаним.

Фінтех-компанії мають автоматизувати моніторинг застосунків DeepSeek, оскільки така автоматизація може заощадити в середньому 2,2 мільйона доларів на витратах через швидше реагування на інциденти.

Аудит та моніторинг усіх застосунків ШІ

Навіть після впровадження цих заходів важливо залишатися пильними. Перед запуском DeepSeek потрібно провести аудит застосунку на предмет упереджень або вразливостей безпеки. Деякі проблеми можуть бути непомітними на початку, тому постійний моніторинг є необхідним.

Створіть спеціальну команду для контролю результатів роботи ШІ та забезпечення її етичності й відповідності регуляціям. Також важливо бути відкритими з клієнтами щодо цього процесу. Це допоможе зміцнити довіру у цій сумнівній галузі.

Фінтех-компанії мають враховувати етику ШІ

Дані у фінтеху особливо чутливі, тому всі організації в цій сфері мають серйозно ставитися до інструментів, що залежать від даних, таких як ШІ. DeepSeek може бути перспективним бізнес-інструментом, але лише за умови дотримання строгих етичних і безпекових стандартів.

Зрозумівши цю необхідність, фінтех-лідери зможуть забезпечити безпечне та справедливе використання DeepSeek та інших проектів ШІ.