Етичні міркування щодо розгортання DeepSeek AI у фінтехі

Девін Партіда — головний редактор ReHack. Як письменниця, її роботи публікувалися в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Дізнавайтеся про головні новини та події у сфері фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект (ШІ) — одна з найперспективніших, але водночас найбільш неоднозначних технологій у фінтеху сьогодні. Тепер, коли DeepSeek сколихнув увесь ШІ-простір, його специфічні можливості та ризики потребують уваги.

Хоча ChatGPT вивів генеративний ШІ в мейнстрим у 2022 році, DeepSeek підняв його на новий рівень, коли його модель DeepSeek-R1 запустили у 2025 році.

Алгоритм є відкритим і безкоштовним, але працює на рівні платних пропрієтарних альтернатив. Таким чином, це приваблива бізнес-можливість для фінтех-компаній, які сподіваються заробити на ШІ, але водночас викликає певні етичні питання.

Рекомендовані статті:

*   **Модель R1 від DeepSeek викликає дискусію про майбутнє розвитку ШІ**
*   **ШІ-модель DeepSeek: можливості та ризики для малих технологічних компаній**

Конфіденційність даних

Як і багато ШІ-додатків, конфіденційність даних є проблемою. Великі мовні моделі (LLM), такі як DeepSeek, потребують значного обсягу інформації, а в такому секторі, як фінтех, більшість цих даних можуть бути чутливими.

DeepSeek має додаткове ускладнення: це китайська компанія. Уряд Китаю може отримувати доступ до всієї інформації на дата-центрах, що належать китайцям, або вимагати дані від компаній у країні. Отже, модель може створювати ризики, пов'язані з іноземним шпигунством та пропагандою.

Витоци даних третіх сторін – ще одна проблема. DeepSeek уже зазнав витоку, внаслідок якого було викрито понад 1 мільйон записів, що може викликати сумніви щодо безпеки ШІ-інструментів.

Упередженість ШІ

Моделі машинного навчання, такі як DeepSeek, схильні до упереджень. Оскільки ШІ-моделі дуже добре знаходять і вивчають тонкі закономірності, які люди можуть пропустити, вони можуть переймати несвідомі упередження зі своїх навчальних даних. Навчаючись на такій спотвореній інформації, вони можуть закріплювати та посилювати проблеми нерівності.

Такі страхи особливо помітні у фінансах. Оскільки фінансові установи історично обмежували можливості для меншин, велика частина їхніх історичних даних демонструє значну упередженість. Навчання DeepSeek на таких наборах даних може призвести до подальших упереджених дій, як-от відмова ШІ у видачі кредитів або іпотеки на підставі етнічної приналежності, а не кредитоспроможності.

Довіра споживачів

Оскільки проблеми, пов'язані з ШІ, заполонили заголовки новин, широка громадськість стає дедалі підозрілішею до таких послуг. Це може призвести до ерозії довіри між фінтех-бізнесом та його клієнтами, якщо він прозоро не вирішуватиме ці проблеми.

DeepSeek може зіткнутися з унікальним бар'єром тут. Компанія, за повідомленнями, створила свою модель лише за 6 мільйонів доларів, і, як швидкозростаюча китайська компанія, може нагадувати людям про проблеми конфіденційності, які вплинули на TikTok. Громадськість може не захоплюватися ідеєю довірити свої дані низькобюджетній, швидко розробленій ШІ-моделі, особливо коли китайський уряд може мати певний вплив.

Як забезпечити безпечне та етичне розгортання DeepSeek

Ці етичні міркування не означають, що фінтех-фірми не можуть безпечно використовувати DeepSeek, але вони підкреслюють важливість ретельного впровадження. Організації можуть розгорнути DeepSeek етично та безпечно, дотримуючись цих найкращих практик.

Запускайте DeepSeek на локальних серверах

Одним із найважливіших кроків є запуск ШІ-інструменту на внутрішніх дата-центрах. Хоча DeepSeek – китайська компанія, ваги її моделі є відкритими, що дає змогу запускати її на серверах у США та зменшити занепокоєння щодо порушень конфіденційності з боку китайського уряду.

Однак не всі дата-центри однаково надійні. В ідеалі фінтех-компанії мають розміщувати DeepSeek на власному обладнанні. Коли це неможливо, керівництво має ретельно обирати хостера, співпрацюючи лише з тими, хто має високі показники безперебійної роботи та стандарти безпеки, такі як ISO 27001 та NIST 800-53.

Мінімізуйте доступ до конфіденційних даних

Під час створення додатку на основі DeepSeek фінтех-фірми мають враховувати, до яких даних модель може отримувати доступ. ШІ повинен мати доступ лише до даних, необхідних для виконання його функції. Також бажано очистити доступні дані від будь-якої непотрібної персонально ідентифікованої інформації (PII).

Коли DeepSeek має менше конфіденційних даних, будь-який витік матиме менший вплив. Мінімізація збору PII також є ключем до дотримання таких законів, як Загальний регламент про захист даних (GDPR) та Закон Грема-Ліча-Блайлі (GLBA).

Впроваджуйте засоби кібербезпеки

Правила, такі як GDPR та GLBA, також зазвичай вимагають захисних заходів для запобігання витокам. Навіть поза межами такого законодавства історія DeepSeek з витоками підкреслює необхідність додаткових засобів безпеки.

Як мінімум, фінтехи повинні шифрувати всі дані, доступні ШІ, у стані спокою та під час передачі. Також бажано проводити регулярне тестування на проникнення для виявлення та виправлення вразливостей.

Фінтех-організації також мають розглянути автоматизований моніторинг своїх додатків DeepSeek, оскільки така автоматизація в середньому економить 2,2 мільйона доларів витрат на ліквідацію наслідків витоку завдяки швидшому та ефективнішому реагуванню.

Аудит та моніторинг усіх ШІ-додатків

Навіть після виконання цих кроків важливо залишатися пильним. Проведіть аудит додатку на основі DeepSeek перед його розгортанням, щоб виявити ознаки упередженості або вразливості безпеки. Пам'ятайте, що деякі проблеми можуть бути непомітними спочатку, тому необхідний постійний перегляд.

Створіть спеціальну робочу групу для моніторингу результатів ШІ-рішення та забезпечення його етичності та відповідності нормативним вимогам. Також краще бути прозорими з клієнтами щодо такої практики. Це запевнення може допомогти зміцнити довіру в іншому сумнівному полі.

Фінтех-компанії повинні враховувати етику ШІ

Дані фінтеху є особливо чутливими, тому всі організації в цьому секторі повинні серйозно ставитися до інструментів, що залежать від даних, таких як ШІ. DeepSeek може бути перспективним бізнес-ресурсом, але лише за умови дотримання суворих етичних норм і правил безпеки.

Як тільки лідери фінтеху зрозуміють необхідність такої обережності, вони зможуть забезпечити, щоб їхні інвестиції в DeepSeek та інші ШІ-проекти залишалися безпечними та справедливими.