Considérations éthiques dans le déploiement de DeepSeek AI dans la fintech

Devin Partida est la rédactrice en chef de ReHack. En tant que journaliste, son travail a été publié dans Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf, et d’autres.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et d’autres

L’intelligence artificielle (IA) est l’une des technologies les plus prometteuses mais aussi les plus préoccupantes dans le fintech aujourd’hui. Maintenant que DeepSeek a secoué le secteur de l’IA, ses possibilités et ses pièges spécifiques exigent une attention particulière.

Alors que ChatGPT a popularisé l’IA générative en 2022, DeepSeek l’a portée à de nouveaux sommets avec le lancement de son modèle DeepSeek-R1 en 2025.

L’algorithme est open-source et gratuit mais a obtenu des performances similaires à celles des alternatives propriétaires payantes. En conséquence, c’est une opportunité commerciale tentante pour les fintech souhaitant capitaliser sur l’IA, mais cela soulève aussi des questions éthiques.

Lectures recommandées :

*   **Le modèle R1 de DeepSeek suscite un débat sur l’avenir du développement de l’IA**
*   **Le modèle d’IA de DeepSeek : opportunité et risque pour les petites entreprises technologiques**

Protection des données

Comme pour de nombreuses applications d’IA, la protection des données est une préoccupation. Les grands modèles de langage (LLMs) comme DeepSeek nécessitent une quantité importante d’informations, et dans un secteur comme le fintech, une grande partie de ces données peut être sensible.

DeepSeek présente en outre la complication d’être une entreprise chinoise. Le gouvernement chinois peut accéder à toutes les informations sur les centres de données détenus en Chine ou demander des données aux entreprises du pays. Par conséquent, le modèle peut présenter des risques liés à l’espionnage étranger et à la propagande.

Les violations de données par des tiers sont une autre préoccupation. DeepSeek a déjà subi une fuite exposant plus d’un million d’enregistrements, ce qui peut jeter un doute sur la sécurité des outils d’IA.

Biais de l’IA

Les modèles d’apprentissage automatique comme DeepSeek sont sujets aux biais. Parce que les modèles d’IA sont très habiles à repérer et apprendre des motifs subtils que les humains pourraient manquer, ils peuvent adopter des préjugés inconscients issus de leurs données d’entraînement. En apprenant à partir de ces informations biaisées, ils peuvent perpétuer et aggraver des problèmes d’inégalité.

Ces craintes sont particulièrement présentes dans la finance. Parce que les institutions financières ont historiquement réservé des opportunités aux minorités, une grande partie de leurs données historiques montre des biais importants. En entraînant DeepSeek sur ces ensembles de données, cela pourrait conduire à des actions biaisées supplémentaires, comme un IA refusant des prêts ou des hypothèques en fonction de l’origine ethnique plutôt que de la solvabilité.

Confiance des consommateurs

Alors que les problématiques liées à l’IA ont fait la une des journaux, le grand public devient de plus en plus méfiant à leur égard. Cela pourrait entraîner une perte de confiance entre une fintech et ses clients si elle ne gère pas ces préoccupations de manière transparente.

DeepSeek pourrait faire face à une barrière unique ici. La société aurait construit son modèle pour seulement 6 millions de dollars et, en tant qu’entreprise chinoise en pleine croissance, pourrait rappeler aux gens les préoccupations de confidentialité qui ont affecté TikTok. Le public pourrait ne pas être enthousiaste à l’idée de faire confiance à un modèle d’IA à petit budget, développé rapidement, avec leurs données, surtout si le gouvernement chinois peut avoir une certaine influence.

Comment assurer un déploiement sûr et éthique de DeepSeek

Ces considérations éthiques ne signifient pas que les fintechs ne peuvent pas utiliser DeepSeek en toute sécurité, mais elles soulignent l’importance d’une mise en œuvre prudente. Les organisations peuvent déployer DeepSeek de manière éthique et sécurisée en suivant ces meilleures pratiques.

Exécuter DeepSeek sur des serveurs locaux

L’une des étapes les plus importantes consiste à faire fonctionner l’outil d’IA sur des centres de données nationaux. Bien que DeepSeek soit une entreprise chinoise, ses poids de modèle sont ouverts, ce qui permet de l’exécuter sur des serveurs américains et de réduire les préoccupations concernant les violations de la vie privée par le gouvernement chinois.

Cependant, tous les centres de données ne sont pas également fiables. Idéalement, les fintechs hébergeraient DeepSeek sur leur propre matériel. Lorsqu’il n’est pas possible, la direction doit choisir un hébergeur avec soin, en ne collaborant qu’avec ceux garantissant une haute disponibilité et des standards de sécurité tels que ISO 27001 et NIST 800-53.

Réduire l’accès aux données sensibles

Lors de la création d’une application basée sur DeepSeek, les fintechs doivent considérer quels types de données le modèle peut accéder. L’IA ne doit accéder qu’à ce dont elle a besoin pour remplir sa fonction. Il est également idéal de nettoyer les données accessibles de toute information personnellement identifiable (PII) inutile.

Lorsque DeepSeek détient moins de détails sensibles, toute violation sera moins impactante. La réduction de la collecte de PII est également essentielle pour rester conforme à des lois telles que le Règlement général sur la protection des données (RGPD) et la loi Gramm-Leach-Bliley (GLBA).

Mettre en œuvre des contrôles de cybersécurité

Les réglementations comme le RGPD et la GLBA exigent également des mesures de protection pour prévenir les violations dès le départ. Même en dehors de ces lois, l’historique de DeepSeek en matière de fuites souligne la nécessité de mesures de sécurité supplémentaires.

Au minimum, les fintechs doivent chiffrer toutes les données accessibles à l’IA, qu’elles soient au repos ou en transit. La réalisation régulière de tests de pénétration pour détecter et corriger les vulnérabilités est également recommandée.

Les organisations fintech doivent aussi envisager une surveillance automatisée de leurs applications DeepSeek, car cette automatisation permet d’économiser en moyenne 2,2 millions de dollars en coûts liés aux violations, grâce à des réponses plus rapides et plus efficaces.

Auditer et surveiller toutes les applications d’IA

Même après avoir suivi ces étapes, il est crucial de rester vigilant. Auditez l’application basée sur DeepSeek avant son déploiement pour repérer tout signe de biais ou de vulnérabilités de sécurité. Souvenez-vous que certains problèmes peuvent ne pas être visibles au début, donc une revue continue est nécessaire.

Créez une task force dédiée pour surveiller les résultats de l’IA et garantir qu’elle reste éthique et conforme à toutes les réglementations. Il est également préférable d’être transparent avec les clients à propos de cette pratique. La transparence peut aider à instaurer la confiance dans un domaine autrement douteux.

Les fintechs doivent prendre en compte l’éthique de l’IA

Les données du secteur fintech étant particulièrement sensibles, toutes les organisations doivent prendre au sérieux les outils dépendants des données comme l’IA. DeepSeek peut être une ressource commerciale prometteuse, mais uniquement si son utilisation respecte des règles strictes d’éthique et de sécurité.

Une fois que les leaders fintech auront compris la nécessité d’une telle prudence, ils pourront garantir que leurs investissements dans DeepSeek et autres projets d’IA restent sûrs et équitables.