Этические соображения при развертывании DeepSeek AI в финтехе

Девин Партида — главный редактор ReHack. Как писатель, ее работы публиковались в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf и других изданиях.

Откройте для себя главные новости и события в сфере финтеха!

Подпишитесь на новостную рассылку FinTech Weekly

Читается руководителями из JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Искусственный интеллект (ИИ) — одна из самых многообещающих, но при этом вызывающих особое беспокойство технологий в финтехе сегодня. Теперь, когда DeepSeek всколыхнул всю сферу ИИ, его конкретные возможности и подводные камни требуют внимания.

В то время как ChatGPT вывел генеративный ИИ в мейнстрим в 2022 году, DeepSeek вывел его на новый уровень, когда его модель DeepSeek-R1 была запущена в 2025 году.

Алгоритм имеет открытый исходный код и бесплатен, но показывает результаты, сопоставимые с платными проприетарными альтернативами. Таким образом, это заманчивая бизнес-возможность для финтех-компаний, стремящихся извлечь выгоду из ИИ, но она также ставит некоторые этические вопросы.

Рекомендуемые материалы:

*   **Модель R1 от DeepSeek вызывает споры о будущем развития ИИ**
*   **Модель ИИ от DeepSeek: возможности и риски для небольших технологических компаний**

Конфиденциальность данных

Как и во многих приложениях ИИ, конфиденциальность данных вызывает беспокойство. Большие языковые модели (LLM), такие как DeepSeek, требуют значительного объема информации, и в таком секторе, как финтех, многие из этих данных могут быть чувствительными.

DeepSeek имеет дополнительное осложнение: это китайская компания. Правительство Китая может получить доступ ко всей информации, хранящейся в центрах обработки данных, принадлежащих Китаю, или запросить данные у компаний внутри страны. Следовательно, модель может представлять риски, связанные с иностранным шпионажем и пропагандой.

Утечки данных третьих сторон — еще одна проблема. DeepSeek уже столкнулся с утечкой, в результате которой было раскрыто более 1 миллиона записей, что может вызвать сомнения в безопасности инструментов ИИ.

Предвзятость ИИ

Модели машинного обучения, такие как DeepSeek, склонны к предвзятости. Поскольку модели ИИ так хорошо умеют выявлять и учиться на тонких закономерностях, которые люди могут упустить, они могут перенимать неосознанные предубеждения из своих обучающих данных. Обучаясь на этой искаженной информации, они могут увековечивать и усугублять проблемы неравенства.

Такие опасения особенно сильны в финансовой сфере. Поскольку финансовые учреждения исторически ущемляли возможности меньшинств, большая часть их исторических данных демонстрирует значительную предвзятость. Обучение DeepSeek на этих наборах данных может привести к дальнейшим предвзятым действиям, таким как отказ ИИ в выдаче кредитов или ипотеки на основе этнической принадлежности, а не кредитоспособности.

Доверие потребителей

Поскольку проблемы, связанные с ИИ, заполняют заголовки новостей, широкая общественность становится все более подозрительной к этим сервисам. Это может привести к подрыву доверия между финтех-бизнесом и его клиентами, если он не будет прозрачно управлять этими проблемами.

DeepSeek может столкнуться здесь с уникальным барьером. Сообщается, что компания построила свою модель всего за 6 миллионов долларов и, будучи быстрорастущей китайской компанией, может напомнить людям о проблемах конфиденциальности, затронувших TikTok. Общественность может не испытывать энтузиазма по поводу того, чтобы доверять низкобюджетной, быстро разработанной модели ИИ свои данные, особенно учитывая возможное влияние китайского правительства.

Как обеспечить безопасное и этичное развертывание DeepSeek

Эти этические соображения не означают, что финтех-фирмы не могут безопасно использовать DeepSeek, но они подчеркивают важность тщательного внедрения. Организации могут развертывать DeepSeek этично и безопасно, придерживаясь следующих лучших практик.

Запускайте DeepSeek на локальных серверах

Один из самых важных шагов — запускать инструмент ИИ в отечественных центрах обработки данных. Хотя DeepSeek — китайская компания, веса ее модели открыты, что позволяет запускать ее на серверах в США и снижать опасения по поводу утечек конфиденциальности со стороны китайского правительства.

Однако не все центры обработки данных одинаково надежны. В идеале финтех-бизнесу следует размещать DeepSeek на собственном оборудовании. Когда это невозможно, руководство должно тщательно выбирать хостера, сотрудничая только с теми, кто имеет высокую гарантию бесперебойной работы и стандарты безопасности, такие как ISO 27001 и NIST 800-53.

Минимизируйте доступ к конфиденциальным данным

При создании приложения на основе DeepSeek финтех-фирмы должны учитывать, к каким данным модель может получить доступ. ИИ должен иметь доступ только к тому, что необходимо для выполнения его функции. Также желательно очищать доступные данные от любой ненужной личной информации (PII).

Когда DeepSeek хранит меньше конфиденциальных деталей, любая утечка будет менее значимой. Минимизация сбора PII также является ключом к соблюдению таких законов, как Общий регламент по защите данных (GDPR) и Закон Грэмма-Лича-Блайли (GLBA).

Внедряйте средства кибербезопасности

Правила, такие как GDPR и GLBA, также обычно требуют защитных мер для предотвращения утечек в первую очередь. Даже вне рамок такого законодательства история DeepSeek с утечками подчеркивает необходимость дополнительных мер безопасности.

Как минимум, финтех-компании должны шифровать все данные, доступные ИИ, в покое и при передаче. Также желательно регулярное тестирование на проникновение для выявления и устранения уязвимостей.

Финтех-организациям также следует рассмотреть возможность автоматизированного мониторинга своих приложений DeepSeek, поскольку такая автоматизация в среднем экономит 2,2 миллиона долларов на затратах, связанных с утечками, благодаря более быстрому и эффективному реагированию.

Аудируйте и контролируйте все приложения ИИ

Даже после выполнения этих шагов крайне важно сохранять бдительность. Проведите аудит приложения на основе DeepSeek перед его развертыванием, чтобы выявить признаки предвзятости или уязвимости в безопасности. Помните, что некоторые проблемы могут быть незаметны сначала, поэтому необходим постоянный анализ.

Создайте специальную рабочую группу для мониторинга результатов решения на основе ИИ и обеспечения его этичности и соответствия любым нормативным требованиям. Также желательно быть прозрачными с клиентами в отношении этой практики. Заверение может помочь укрепить доверие в и без того сомнительной области.

Финтех-компании должны учитывать этику ИИ

Финтех-данные особенно чувствительны, поэтому все организации в этом секторе должны серьезно относиться к таким зависимым от данных инструментам, как ИИ. DeepSeek может быть многообещающим бизнес-ресурсом, но только если его использование строго соответствует этическим нормам и требованиям безопасности.

Как только руководители финтех-компаний поймут необходимость такой осторожности, они смогут гарантировать, что их инвестиции в DeepSeek и другие проекты ИИ останутся безопасными и справедливыми.