Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партида є головним редактором ReHack. Як автор її матеріали публікувалися в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події з фінтеху!

Підпишіться на бюлетень FinTech Weekly

Читають керівники в JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект (ШІ) — одна з найбільш перспективних, але водночас особливо тривожних технологій у fintech сьогодні. Тепер, коли DeepSeek спричинив шок у всій сфері ШІ, його конкретні можливості та ризики потребують уваги.

Поки ChatGPT довів генеративний ШІ до широкої аудиторії в 2022 році, DeepSeek підняв його на новий рівень, коли його модель DeepSeek-R1 вийшла в 2025 році.

Алгоритм є з відкритим кодом і безкоштовний, але працював на рівні, подібному до платних пропрієтарних альтернатив. Таким чином, це спокуслива бізнес-можливість для фінтех-компаній, які прагнуть скористатися ШІ, але це також ставить деякі етичні питання.

Рекомендовані матеріали для читання:

*   **Модель DeepSeek R1 спричиняє дискусію щодо майбутнього розробки ШІ**
*   **ШІ-модель DeepSeek: можливість і ризик для малих техкомпаній**

Конфіденційність даних

Як і в багатьох застосуваннях ШІ, конфіденційність даних є проблемою. Великі мовні моделі (LLM), такі як DeepSeek, потребують значного обсягу інформації, і в такому секторі, як фінтех, ці дані можуть бути чутливими.

У DeepSeek є додатковий ускладнювальний фактор: він є китайською компанією. Уряд Китаю може отримати доступ до всієї інформації на дата-центрах, що належать китайським власникам, або вимагати дані від компаній у країні. Отже, модель може створювати ризики, пов’язані з іноземним шпигунством і пропагандою.

Порушення даних з боку третіх осіб — ще одна проблема. DeepSeek уже зазнав витоку, який розкрив понад 1 мільйон записів, що може поставити під сумнів безпеку інструментів ШІ.

Уподобання (упередження) в ШІ

Моделі машинного навчання на кшталт DeepSeek схильні до упереджень. Оскільки моделі ШІ надзвичайно вправні у виявленні та навчанні на тонких патернах, які люди можуть не помічати, вони здатні переймати несвідомі упередження з даних, на яких їх навчали. Під час навчання на такій перекошеній інформації вони можуть підтримувати та погіршувати проблеми нерівності.

Такі страхи особливо помітні у фінансах. Оскільки фінансові інституції історично відмовляли в можливостях представникам меншин, у їхніх історичних даних відображається значне упередження. Навчання DeepSeek на цих наборах даних може призвести до подальших упереджених дій, як-от коли ШІ відмовляє в кредитах або іпотеці на підставі етнічності людини, а не її кредитоспроможності.

Довіра споживачів

Оскільки проблеми, пов’язані з ШІ, заповнили заголовки, широке суспільство стало дедалі підозрілішим до цих сервісів. Це може призвести до ерозії довіри між фінтех-бізнесом і його клієнтами, якщо ці занепокоєння не буде прозоро врегульовано.

DeepSeek може зіткнутися тут із унікальною перешкодою. Як повідомляється, компанія створила свою модель за $6 мільйонів, і як швидкозростаюча китайська компанія вона може нагадувати людям про проблеми конфіденційності, що торкнулися TikTok. Публіка може не бути налаштована довіряти малобюджетній, швидко розробленій моделі ШІ своїм даним, особливо коли уряд Китаю може мати певний вплив.

Як забезпечити безпечне й етичне розгортання DeepSeek

Ці етичні міркування не означають, що фінтех-компанії не можуть безпечно використовувати DeepSeek, але вони підкреслюють важливість ретельного впровадження. Організації можуть етично та безпечно розгортати DeepSeek, дотримуючись цих найкращих практик.

Запускайте DeepSeek на локальних серверах

Один із найважливіших кроків — запускати інструмент ШІ на внутрішніх дата-центрах. Хоча DeepSeek — китайська компанія, ваги її моделі є відкритими, тож їх можна запускати на серверах у США та зменшувати занепокоєння щодо витоків конфіденційності через уряд Китаю.

Однак не всі дата-центри однаково надійні. Ідеально, щоб фінтех-компанії розміщували DeepSeek на власному обладнанні. Якщо це неможливо, керівництву слід обирати хост обережно, співпрацюючи лише з тими, хто забезпечує високу гарантію безперебійної роботи та стандарти безпеки, такі як ISO 27001 і NIST 800-53.

Зведіть до мінімуму доступ до чутливих даних

Під час створення застосування на основі DeepSeek фінтех-компаніям слід продумати, до яких типів даних модель може отримувати доступ. ШІ має мати змогу звертатися лише до того, що потрібно для виконання своєї функції. Очищення доступних даних від будь-якої непотрібної personally identifiable information (PII) також є ідеальним варіантом.

Коли в DeepSeek менше чутливих деталей, будь-який інцидент із порушенням матиме менший вплив. Мінімізація збору PII також є ключовою для дотримання законів на кшталт General Data Protection Regulation (GDPR) і Gramm-Leach-Bliley Act (GLBA).

Впровадьте засоби кібербезпеки

Регламенти на кшталт GDPR і GLBA також зазвичай вимагають захисних заходів, щоб запобігти порушенням у першу чергу. Навіть поза межами такого законодавства, історія DeepSeek із витоками підкреслює потребу в додаткових гарантіях безпеки.

Щонайменше фінтехи мають шифрувати всі дані, доступні для ШІ, як у стані зберігання (at rest), так і під час передавання (in transit). Регулярне тестування на проникнення для виявлення та усунення вразливостей також є бажаним.

Фінтех-організації також мають розглянути автоматизований моніторинг своїх застосувань DeepSeek, адже така автоматизація в середньому економить $2.2 мільйона на витратах, пов’язаних із порушеннями, завдяки швидшим і ефективнішим відповідям.

Аудит і моніторинг усіх застосувань ШІ

Навіть після виконання цих кроків критично важливо залишатися пильними. Проведіть аудит застосування на основі DeepSeek перед його розгортанням, щоб виявити ознаки упередженості або вразливостей безпеки. Пам’ятайте, що деякі проблеми можуть бути непомітними на перший погляд, тож потрібен постійний перегляд.

Створіть окрему цільову групу, щоб моніторити результати AI-рішення та гарантувати, що воно залишається етичним і відповідним будь-яким регламентам. Також найкраще бути прозорими з клієнтами щодо цієї практики. Таке заспокоєння може допомогти сформувати довіру в інакше сумнівній сфері.

Фінтех-компанії мають враховувати етику ШІ

Фінтех-дані є особливо чутливими, тож усі організації в цьому секторі мають серйозно ставитися до інструментів, що залежать від даних, таких як ШІ. DeepSeek може бути перспективним бізнес-ресурсом, але лише за умови, що його використання відповідає суворим етичним і безпековим керівним принципам.

Коли лідери фінтеху зрозуміють потребу в такій обережності, вони зможуть гарантувати, що їхні інвестиції в DeepSeek та інші проєкти зі ШІ залишатимуться безпечними й справедливими.