Considérations éthiques dans le déploiement de DeepSeek AI dans la fintech

Devin Partida est la rédactrice en chef de ReHack. En tant qu’auteure, son travail a été publié dans Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf et d’autres.

Découvrez les meilleures actualités et les événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants chez JP Morgan, Coinbase, Blackrock, Klarna et plus

L’intelligence artificielle (IA) est l’une des technologies les plus prometteuses mais aussi les plus préoccupantes, dans le fintech d’aujourd’hui. Maintenant que DeepSeek a provoqué des ondes de choc dans tout l’écosystème de l’IA, ses possibilités et ses pièges spécifiques exigent une attention particulière.

Alors que ChatGPT a propulsé l’IA générative dans le grand public en 2022, DeepSeek l’a portée à de nouveaux sommets avec le lancement de son modèle DeepSeek-R1 en 2025.

L’algorithme est open source et gratuit, mais a atteint un niveau similaire à celui d’alternatives propriétaires payantes. En tant que tel, c’est une opportunité commerciale tentante pour les entreprises fintech qui cherchent à tirer parti de l’IA, mais cela soulève aussi certaines questions éthiques.

Lectures recommandées :

*   **Le modèle R1 de DeepSeek déclenche un débat sur l’avenir du développement de l’IA**
*   **Le modèle d’IA de DeepSeek : opportunité et risque pour les petites entreprises technologiques**

Confidentialité des données

Comme pour de nombreuses applications d’IA, la confidentialité des données est un sujet préoccupant. Les grands modèles de langage (LLM) comme DeepSeek nécessitent une quantité substantielle d’informations, et dans un secteur comme le fintech, une grande partie de ces données peut être sensible.

DeepSeek a en plus la complication d’être une entreprise chinoise. Le gouvernement de la Chine peut accéder à toutes les informations contenues dans les centres de données détenus par des acteurs chinois, ou demander des données aux entreprises situées dans le pays. Par conséquent, le modèle pourrait présenter des risques liés à l’espionnage étranger et à la propagande.

Les fuites de données impliquant des tiers constituent aussi une autre source de préoccupation. DeepSeek a déjà subi une fuite révélant plus d’un million d’enregistrements, ce qui peut remettre en question la sécurité des outils d’IA.

Biais de l’IA

Les modèles de machine learning comme DeepSeek sont sujets aux biais. Parce que les modèles d’IA sont si doués pour repérer et apprendre à partir de motifs subtils que les humains peuvent manquer, ils peuvent adopter des préjugés inconscients issus de leurs données d’entraînement. En apprenant à partir de ces informations biaisées, ils peuvent perpétuer et aggraver les problèmes d’inégalités.

De telles craintes sont particulièrement présentes dans la finance. Comme les institutions financières ont historiquement refusé des opportunités aux minorités, une grande partie de leurs données historiques montre des biais significatifs. Former DeepSeek sur ces ensembles de données pourrait conduire à des actions encore plus biaisées, comme le fait que l’IA refuse des prêts ou des hypothèques en fonction de l’ethnicité d’une personne plutôt que de sa solvabilité.

Confiance des consommateurs

Alors que les problèmes liés à l’IA ont rempli les titres, le grand public est devenu de plus en plus méfiant à l’égard de ces services. Cela pourrait entraîner une érosion de la confiance entre une entreprise fintech et sa clientèle si elle ne gère pas ces inquiétudes de manière transparente.

DeepSeek pourrait rencontrer ici une barrière particulière. L’entreprise aurait construit son modèle pour seulement 6 millions de dollars et, en tant qu’entreprise chinoise à forte croissance, pourrait rappeler aux gens les préoccupations liées à la confidentialité qui ont touché TikTok. Le public n’est peut-être pas enthousiaste à l’idée de confier ses données à un modèle d’IA à petit budget, développé rapidement, d’autant plus lorsque le gouvernement chinois pourrait avoir une certaine influence.

Comment assurer un déploiement de DeepSeek sûr et éthique

Ces considérations éthiques ne signifient pas que les entreprises fintech ne peuvent pas utiliser DeepSeek en toute sécurité, mais elles soulignent l’importance d’une mise en œuvre soigneuse. Les organisations peuvent déployer DeepSeek de manière éthique et sécurisée en respectant ces bonnes pratiques.

Exécuter DeepSeek sur des serveurs locaux

Une des étapes les plus importantes consiste à exécuter l’outil d’IA sur des centres de données nationaux. Bien que DeepSeek soit une entreprise chinoise, ses poids de modèle sont open source, ce qui permet de le faire tourner sur des serveurs américains et d’atténuer les inquiétudes liées aux fuites de données provenant du gouvernement chinois.

Cependant, tous les centres de données ne se valent pas en matière de fiabilité. Idéalement, les entreprises fintech hébergeraient DeepSeek sur leur propre matériel. Lorsque ce n’est pas possible, la direction doit choisir un hébergeur avec soin, en ne s’associant qu’à des acteurs offrant des garanties élevées de disponibilité et des standards de sécurité tels que ISO 27001 et NIST 800-53.

Réduire l’accès aux données sensibles

Lors de la conception d’une application basée sur DeepSeek, les entreprises fintech doivent réfléchir aux types de données auxquels le modèle peut accéder. L’IA ne devrait pouvoir accéder qu’à ce qui est nécessaire pour remplir sa fonction. Supprimer de toute donnée accessible toute information personnellement identifiable (PII) non nécessaire est également idéal.

Lorsque DeepSeek détient moins de détails sensibles, toute fuite aura moins d’impact. Minimiser la collecte de PII est aussi essentiel pour rester conforme à des lois comme le General Data Protection Regulation (GDPR) et le Gramm-Leach-Bliley Act (GLBA).

Mettre en œuvre des contrôles de cybersécurité

Des réglementations comme le GDPR et le GLBA imposent aussi généralement des mesures de protection pour empêcher d’abord les fuites. Même en dehors d’une telle législation, l’historique de DeepSeek en matière de fuites met en évidence la nécessité de mesures de sécurité supplémentaires.

Au minimum, les fintechs doivent chiffrer toutes les données accessibles par l’IA au repos et en transit. Des tests d’intrusion réguliers pour repérer et corriger les vulnérabilités sont aussi idéaux.

Les organisations fintech devraient aussi envisager une surveillance automatisée de leurs applications DeepSeek, car cette automatisation permet d’économiser 2,2 millions de dollars en moyenne sur les coûts liés aux fuites, grâce à des réponses plus rapides et plus efficaces.

Auditer et surveiller toutes les applications d’IA

Même après avoir suivi ces étapes, il est crucial de rester vigilant. Auditez l’application basée sur DeepSeek avant de la déployer pour rechercher des signes de biais ou des vulnérabilités de sécurité. Rappelez-vous que certains problèmes peuvent ne pas être visibles au départ, un examen continu est donc nécessaire.

Créez une task force dédiée pour surveiller les résultats de la solution d’IA et vous assurer qu’elle reste éthique et conforme à toute réglementation. Il est aussi préférable d’être transparent avec les clients à propos de cette pratique. Les assurances peuvent contribuer à renforcer la confiance dans un domaine par ailleurs discutable.

Les entreprises fintech doivent considérer l’éthique de l’IA

Les données fintech sont particulièrement sensibles, de sorte que toutes les organisations de ce secteur doivent prendre au sérieux les outils axés sur les données comme l’IA. DeepSeek peut être une ressource commerciale prometteuse, mais seulement si son utilisation suit des lignes directrices strictes en matière d’éthique et de sécurité.

Une fois que les dirigeants fintech comprennent la nécessité d’un tel soin, ils peuvent s’assurer que leurs investissements dans DeepSeek et leurs autres projets d’IA restent sûrs et équitables.