Considérations éthiques dans le déploiement de DeepSeek AI dans la fintech

Devin Partida est la directrice de la rédaction de ReHack. En tant qu’autrice, ses articles ont été publiés dans Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf et d’autres.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lu par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et plus encore

L’intelligence artificielle (IA) est l’une des technologies les plus prometteuses, mais aussi singulièrement préoccupantes, dans le fintech aujourd’hui. Maintenant que DeepSeek a provoqué des ondes de choc dans tout le secteur de l’IA, ses possibilités et ses pièges spécifiques exigent une attention particulière.

Alors que ChatGPT a popularisé l’IA générative dans le grand public en 2022, DeepSeek l’a portée à de nouveaux sommets lorsque son modèle DeepSeek-R1 a été lancé en 2025.

L’algorithme est open source et gratuit, mais il s’est révélé à un niveau comparable à celui d’alternatives propriétaires payantes. En tant que tel, il s’agit d’une opportunité commerciale tentante pour les entreprises fintech qui espèrent tirer parti de l’IA, mais cela soulève aussi certaines questions éthiques.

Lectures recommandées :

*   **Le modèle R1 de DeepSeek suscite le débat sur l’avenir du développement de l’IA**
*   **Le modèle d’IA de DeepSeek : opportunité et risque pour les petites entreprises technologiques**

Confidentialité des données

Comme pour de nombreuses applications d’IA, la confidentialité des données est un sujet préoccupant. Les grands modèles de langage (LLM) comme DeepSeek nécessitent une quantité substantielle d’informations, et dans un secteur comme le fintech, une grande partie de ces données peut être sensible.

DeepSeek présente en plus une complication : c’est une entreprise chinoise. Le gouvernement chinois peut accéder à toutes les informations stockées sur des centres de données appartenant à des acteurs chinois, ou demander des données aux entreprises situées dans le pays. Par conséquent, le modèle peut présenter des risques liés à l’espionnage étranger et à la propagande.

Les fuites de données impliquant des tiers sont une autre source d’inquiétude. DeepSeek a déjà subi une fuite révélant plus d’1 million d’enregistrements, ce qui pourrait jeter un doute sur la sécurité des outils d’IA.

Biais de l’IA

Les modèles de machine learning comme DeepSeek sont sujets aux biais. Parce que les modèles d’IA sont si doués pour repérer et apprendre à partir de schémas subtils que les humains peuvent ne pas remarquer, ils peuvent adopter des préjugés inconscients issus de leurs données d’entraînement. En apprenant à partir de ces informations biaisées, ils peuvent perpétuer et aggraver les problèmes d’inégalité.

De telles craintes sont particulièrement présentes dans la finance. Parce que les institutions financières ont historiquement refusé des opportunités aux minorités, une grande partie de leurs données historiques montre des biais importants. En entraînant DeepSeek sur ces ensembles de données, on pourrait entraîner davantage d’actions biaisées, comme le fait que l’IA refuse des prêts ou des hypothèques en se basant sur l’ethnicité de quelqu’un plutôt que sur sa solvabilité.

Confiance des consommateurs

À mesure que les problèmes liés à l’IA ont rempli les titres, le grand public est devenu de plus en plus sceptique à l’égard de ces services. Cela pourrait entraîner une érosion de la confiance entre une entreprise fintech et sa clientèle si l’entreprise ne gère pas ces préoccupations de manière transparente.

DeepSeek pourrait faire face à une barrière particulière. La société aurait conçu son modèle pour seulement 6 millions de dollars et, en tant qu’entreprise chinoise à forte croissance, elle pourrait rappeler aux gens les inquiétudes en matière de confidentialité qui ont touché TikTok. Le public pourrait ne pas être enthousiaste à l’idée de confier ses données à un modèle d’IA à petit budget et développé rapidement, surtout quand le gouvernement chinois peut avoir une certaine influence.

Comment assurer un déploiement sûr et éthique de DeepSeek

Ces considérations éthiques ne signifient pas que les entreprises fintech ne peuvent pas utiliser DeepSeek en toute sécurité, mais elles soulignent l’importance d’une mise en œuvre rigoureuse. Les organisations peuvent déployer DeepSeek de manière éthique et sécurisée en respectant ces bonnes pratiques.

Exécuter DeepSeek sur des serveurs locaux

Une des étapes les plus importantes consiste à faire tourner l’outil d’IA sur des centres de données nationaux. Bien que DeepSeek soit une entreprise chinoise, ses pondérations de modèle sont open, ce qui permet de le faire fonctionner sur des serveurs américains et d’atténuer les inquiétudes liées à des violations de confidentialité provenant du gouvernement chinois.

Cependant, tous les centres de données ne sont pas également fiables. Idéalement, les entreprises fintech hébergeraient DeepSeek sur leur propre matériel. Lorsque ce n’est pas possible, la direction doit choisir un hébergeur avec soin, en ne s’associant qu’avec ceux offrant de fortes garanties de disponibilité et des normes de sécurité élevées, telles que ISO 27001 et NIST 800-53.

Réduire l’accès aux données sensibles

Lors de la conception d’une application basée sur DeepSeek, les entreprises fintech devraient réfléchir aux types de données auxquelles le modèle peut accéder. L’IA ne devrait pouvoir accéder qu’à ce dont elle a besoin pour remplir sa fonction. Le fait de supprimer les données accessibles qui ne sont pas nécessaires, notamment toute information personnellement identifiable (PII), est également idéal.

Lorsque DeepSeek détient moins de détails sensibles, toute fuite aura moins d’impact. Réduire la collecte de PII est aussi essentiel pour rester conforme à des lois comme le General Data Protection Regulation (GDPR) et le Gramm-Leach-Bliley Act (GLBA).

Mettre en œuvre des contrôles de cybersécurité

Des réglementations comme le GDPR et le GLBA imposent aussi généralement des mesures de protection pour empêcher les fuites en premier lieu. Même en dehors d’une telle législation, l’historique de DeepSeek en matière de fuites met en évidence la nécessité de protections de sécurité supplémentaires.

Au minimum, les fintechs doivent chiffrer toutes les données accessibles par l’IA au repos et en transit. Des tests d’intrusion réguliers pour détecter et corriger les vulnérabilités sont également idéals.

Les organisations fintech devraient aussi envisager une surveillance automatisée de leurs applications DeepSeek, car cette automatisation permet d’économiser 2,2 millions de dollars en coûts de violation en moyenne, grâce à des réponses plus rapides et plus efficaces.

Auditer et surveiller toutes les applications d’IA

Même après avoir suivi ces étapes, il est crucial de rester vigilant. Auditez l’application basée sur DeepSeek avant de la déployer afin d’y déceler des signes de biais ou des vulnérabilités de sécurité. Rappelez-vous que certains problèmes peuvent ne pas être visibles au départ, il faut donc prévoir une revue continue.

Créez une équipe dédiée chargée de surveiller les résultats de la solution IA et de s’assurer qu’elle reste éthique et conforme à toute réglementation. Il est également préférable d’être transparent avec les clients au sujet de cette pratique. Cette assurance peut aider à instaurer la confiance dans un domaine par ailleurs douteux.

Les entreprises fintech doivent prendre en compte l’éthique de l’IA

Les données fintech sont particulièrement sensibles, donc toutes les organisations de ce secteur doivent prendre au sérieux les outils dépendants des données comme l’IA. DeepSeek peut constituer une ressource économique prometteuse, mais uniquement si son utilisation respecte des lignes directrices strictes en matière d’éthique et de sécurité.

Une fois que les dirigeants fintech auront compris la nécessité de cette prudence, ils pourront s’assurer que leurs investissements dans DeepSeek et leurs autres projets d’IA restent sûrs et équitables.