Етичні міркування при впровадженні DeepSeek AI у фінтех

Девін Партіда є головним редактором ReHack. Як письменниця, її роботи були опубліковані в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf та інших.

Відкрийте для себе найкращі новини та події у фінансових технологіях!

Підпишіться на розсилку FinTech Weekly

Читається керівниками в JP Morgan, Coinbase, Blackrock, Klarna та інших

Штучний інтелект (ШІ) є однією з найобіцяючих, але одночасно і тривожних технологій у фінансових технологіях сьогодні. Тепер, коли DeepSeek викликав хвилі в галузі ШІ, його конкретні можливості та небезпеки вимагають уваги.

Хоча ChatGPT вивів генеративний ШІ в маси у 2022 році, DeepSeek підняв його на новий рівень, коли його модель DeepSeek-R1 була запущена у 2025 році.

Алгоритм є відкритим і безкоштовним, але працює на аналогічному рівні, як платні власницькі альтернативи. Таким чином, це є спокусливою бізнес-можливістю для компаній у фінансових технологіях, які сподіваються скористатися перевагами ШІ, але це також ставить деякі етичні питання.

Рекомендуємо до прочитання:

*   **Модель R1 DeepSeek викликає дебати щодо майбутнього розвитку ШІ**
*   **Модель ШІ DeepSeek: можливості та ризики для малих технологічних компаній**

Конфіденційність даних

Як і з багатьма додатками ШІ, конфіденційність даних є проблемою. Великі мовні моделі (LLM), такі як DeepSeek, потребують значної кількості інформації, а в секторі фінансових технологій багато з цих даних можуть бути чутливими.

DeepSeek має додаткову складність як китайська компанія. Уряд Китаю може отримати доступ до всієї інформації на китайських дата-центрах або запитувати дані у компаній в країні. Отже, ця модель може ставити під загрозу ризики, пов’язані з іноземним шпигунством та пропагандою.

Порушення даних третіх осіб є ще однією проблемою. DeepSeek вже зазнав витоку, що розкрив понад 1 мільйон записів, що може викликати сумніви щодо безпеки інструментів ШІ.

Упередженість ШІ

Моделі машинного навчання, такі як DeepSeek, схильні до упередженості. Оскільки моделі ШІ так вміло виявляють і навчаються на тонких патернах, які можуть бути непомітні людям, вони можуть приймати неусвідомлені упередження з даних навчання. Коли вони навчаються на цій упередженій інформації, вони можуть продовжувати та погіршувати питання нерівності.

Такі страхи є особливо помітними у фінансах. Оскільки фінансові установи історично позбавляли можливостей меншин, багато їх історичних даних демонструють значну упередженість. Навчання DeepSeek на цих наборах даних може призвести до подальших упереджених дій, таких як відмова ШІ у видачі кредитів або іпотек на основі етнічної приналежності, а не кредитоспроможності.

Довіра споживачів

Оскільки проблеми, пов’язані з ШІ, заповнили заголовки, загальна громадськість стала все більше підозріла до цих послуг. Це може призвести до ерозії довіри між фінансовим бізнесом та його клієнтами, якщо він не буде прозоро управляти цими проблемами.

DeepSeek може стикнутися з унікальним бар’єром тут. Компанія, за повідомленнями, побудувала свою модель всього за 6 мільйонів доларів, і, як швидко зростаюча китайська компанія, може нагадувати людям про проблеми конфіденційності, які торкнулися TikTok. Громадськість може не бути ентузіастом довіряти дешевій, швидко розробленій моделі ШІ своїми даними, особливо коли уряд Китаю може мати певний вплив.

Як забезпечити безпечне та етичне використання DeepSeek

Ці етичні міркування не означають, що фінансові компанії не можуть безпечно використовувати DeepSeek, але вони підкреслюють важливість ретельної реалізації. Організації можуть етично та безпечно впроваджувати DeepSeek, дотримуючись цих найкращих практик.

Запустіть DeepSeek на локальних серверах

Одним з найважливіших кроків є запуск інструменту ШІ на вітчизняних дата-центрах. Хоча DeepSeek є китайською компанією, її модель ваги є відкритою, що дозволяє запускати її на серверах США та зменшувати занепокоєння щодо порушень конфіденційності з боку китайського уряду.

Однак не всі дата-центри однаково надійні. В ідеалі фінансові компанії повинні розміщувати DeepSeek на своєму обладнанні. Коли це неможливо, керівництво повинно обережно вибирати хост, партнеруючи тільки з тими, хто має високі гарантії безперервності та стандарти безпеки, такі як ISO 27001 та NIST 800-53.

Мінімізуйте доступ до чутливих даних

При створенні програми на базі DeepSeek фінансові компанії повинні враховувати, які дані модель може отримати. ШІ повинен мати доступ лише до тих даних, які йому потрібні для виконання його функцій. Також бажано очищати доступні дані від будь-якої непотрібної особистої ідентифікаційної інформації (PII).

Коли DeepSeek має менше чутливих деталей, будь-яке порушення буде менш впливовим. Мінімізація збору PII також є ключовою для дотримання законів, таких як Загальний регламент захисту даних (GDPR) та Закон Грэм-Ліч-Блайлі (GLBA).

Впровадьте заходи кібербезпеки

Регуляції, такі як GDPR та GLBA, також зазвичай вимагають захисних заходів для запобігання порушенням на початковому етапі. Навіть поза такою законодавчою базою, історія DeepSeek з витоками підкреслює необхідність додаткових заходів безпеки.

Принаймні фінансові установи повинні шифрувати всі дані, доступні для ШІ, як в стані спокою, так і в русі. Регулярне тестування на проникнення для виявлення та виправлення вразливостей також є бажаним.

Фінансові організації також повинні розглянути автоматизований моніторинг своїх додатків DeepSeek, оскільки така автоматизація економить в середньому 2,2 мільйона доларів у витратах на порушення завдяки швидшій та ефективнішій реакції.

Аудит і моніторинг усіх додатків ШІ

Навіть після виконання цих кроків важливо залишатися пильними. Аудит програми на базі DeepSeek перед її впровадженням для виявлення ознак упередженості або вразливостей безпеки. Пам’ятайте, що деякі проблеми можуть бути непомітними спочатку, тому постійний огляд є необхідним.

Створіть спеціалізовану робочу групу для моніторингу результатів ШІ-рішення та забезпечення його етичності та відповідності будь-яким регулюванням. Також найкраще бути прозорими з клієнтами щодо цієї практики. Це може допомогти зміцнити довіру в інакше сумнівній сфері.

Фінансові компанії повинні враховувати етику ШІ

Дані фінансових технологій є особливо чутливими, тому всі організації в цьому секторі повинні серйозно ставитися до інструментів, залежних від даних, таких як ШІ. DeepSeek може бути обіцяючим бізнес-ресурсом, але лише якщо його використання відповідає строгим етичним та безпековим настановам.

Як тільки керівники фінансових технологій зрозуміють необхідність такої обережності, вони можуть забезпечити, щоб їхні інвестиції в DeepSeek та інші проекти ШІ залишалися безпечними та справедливими.