Этические соображения при внедрении DeepSeek AI в финтех

Девин Партидо — главный редактор ReHack. Как писатель, её работы публиковались в Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf и других.

Откройте для себя лучшие новости и события финтеха!

Подпишитесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других

Искусственный интеллект (AI) — одна из самых перспективных, но одновременно и наиболее вызывающих опасения технологий в финтехе сегодня. Теперь, когда DeepSeek произвел фурор в сфере ИИ, его конкретные возможности и риски требуют внимания.

Хотя ChatGPT вывел генеративный ИИ в массовое использование в 2022 году, DeepSeek достиг новых высот с запуском модели DeepSeek-R1 в 2025 году.

Алгоритм открыт и бесплатен, но показывает результаты, сопоставимые с платными проприетарными аналогами. Поэтому он представляет собой заманчивую бизнес-возможность для финтех-компаний, надеющихся извлечь выгоду из ИИ, но также вызывает некоторые этические вопросы.

Рекомендуемое чтение:

*   **Модель DeepSeek R1 вызывает дебаты о будущем развития ИИ**
*   **Модель ИИ DeepSeek: возможность и риск для небольших технологических компаний**

Защита данных

Как и в случае с многими приложениями ИИ, защита данных вызывает опасения. Большие языковые модели (LLMs), такие как DeepSeek, требуют значительного объема информации, и в секторе финтеха большая часть этих данных может быть конфиденциальной.

DeepSeek усложняется тем, что является китайской компанией. Правительство Китая может получить доступ ко всей информации на китайских дата-центрах или запросить данные у компаний внутри страны. Следовательно, модель может представлять риски, связанные с иностранным шпионажем и пропагандой.

Еще одна проблема — утечки данных третьих сторон. DeepSeek уже пострадал от утечки, которая раскрыла более 1 миллиона записей, что может поставить под сомнение безопасность инструментов ИИ.

Предвзятость ИИ

Модели машинного обучения, такие как DeepSeek, склонны к предвзятости. Поскольку ИИ-модели настолько хорошо умеют выявлять и учиться на тонких закономерностях, которые могут пропустить люди, они могут усваивать подсознательные предубеждения из своих обучающих данных. Обучаясь на искаженной информации, они могут способствовать и усугублять проблемы неравенства.

Такие опасения особенно актуальны в финансах. Поскольку финансовые учреждения исторически избегали предоставлять возможности меньшинствам, их исторические данные часто содержат значительную предвзятость. Обучение DeepSeek на таких наборах данных может привести к дальнейшим предвзятым действиям, например, отказу в кредитах или ипотеке на основе этнической принадлежности, а не кредитоспособности.

Доверие потребителей

По мере того, как новости о проблемах, связанных с ИИ, заполняют заголовки, общественность становится все более подозрительной к этим сервисам. Это может привести к утрате доверия между финтех-компанией и её клиентами, если компания не будет прозрачно управлять этими вопросами.

DeepSeek может столкнуться с уникальным барьером. Сообщается, что компания создала свою модель всего за $6 миллион и, будучи быстрорастущей китайской компанией, может напомнить о проблемах конфиденциальности, связанных с TikTok. Общественность может не быть готова доверять низкобюджетной, быстро разработанной модели ИИ с их данными, особенно если на Китайское правительство может оказывать влияние.

Как обеспечить безопасное и этичное внедрение DeepSeek

Этические соображения не означают, что финтех-компании не могут безопасно использовать DeepSeek, но подчеркивают важность аккуратной реализации. Организации могут внедрять DeepSeek этично и безопасно, следуя этим лучшим практикам.

Запускайте DeepSeek на локальных серверах

Один из важнейших шагов — запускать ИИ-инструмент на отечественных дата-центрах. Хотя DeepSeek — китайская компания, её веса модели открыты, что позволяет запускать её на американских серверах и снижать опасения по поводу утечек данных со стороны китайского правительства.

Однако не все дата-центры одинаково надежны. В идеале финтех-компании должны размещать DeepSeek на собственном оборудовании. Если это невозможно, руководство должно тщательно выбрать хостинг-провайдера, сотрудничая только с теми, кто обеспечивает высокий уровень времени безотказной работы и безопасности, такие как ISO 27001 и NIST 800-53.

Минимизируйте доступ к чувствительным данным

При создании приложения на базе DeepSeek финтех-компании должны учитывать, к каким данным модель может иметь доступ. ИИ должен иметь доступ только к необходимой информации для выполнения своих функций. Также желательно очищать доступные данные от ненужной личной идентифицируемой информации (PII).

Когда DeepSeek содержит меньше чувствительных данных, любой взлом будет иметь меньшие последствия. Минимизация сбора PII также важна для соблюдения законов, таких как Общий регламент по защите данных (GDPR) и Закон Грэм-Лич-Блайли (GLBA).

Внедряйте меры кибербезопасности

Регламенты, такие как GDPR и GLBA, также обычно требуют защитных мер для предотвращения утечек. Даже вне рамок таких законов, история утечек DeepSeek подчеркивает необходимость дополнительных мер безопасности.

Минимум, что нужно делать — шифровать все данные, доступные ИИ, в состоянии покоя и при передаче. Регулярное проведение тестов на проникновение для выявления и устранения уязвимостей также желательно.

Финтех-компании должны рассматривать автоматизированный мониторинг своих приложений на базе DeepSeek, поскольку такая автоматизация в среднем экономит 2,2 миллиона долларов на затратах, связанных с утечками, благодаря более быстрым и эффективным реакциям.

Проводите аудит и мониторинг всех приложений ИИ

Даже после выполнения этих шагов важно оставаться бдительными. Перед внедрением DeepSeek необходимо провести аудит приложения на предмет признаков предвзятости или уязвимостей безопасности. Помните, что некоторые проблемы могут быть незаметны сразу, поэтому необходим постоянный контроль.

Создайте специальную рабочую группу для мониторинга результатов ИИ-решения и обеспечения его этичности и соответствия нормативам. Также важно быть прозрачными с клиентами по поводу этой практики. Это поможет укрепить доверие в этой сомнительной области.

Финтех-компании должны учитывать этику ИИ

Данные в финтехе особенно чувствительны, поэтому все организации в этом секторе должны серьезно относиться к инструментам, основанным на данных, таким как ИИ. DeepSeek может стать ценным бизнес-ресурсом, но только при условии строгого соблюдения этических и безопасных стандартов.

Когда лидеры финтеха поймут необходимость такой осторожности, они смогут обеспечить безопасность и справедливость своих инвестиций в DeepSeek и другие проекты ИИ.