Considérations éthiques dans le déploiement de DeepSeek AI dans la fintech

Devin Partida est rédactrice en chef de ReHack. En tant qu’autrice, ses articles ont été publiés dans Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf et d’autres.

Découvrez les meilleures actualités et les meilleurs événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants chez JP Morgan, Coinbase, Blackrock, Klarna et plus

L’intelligence artificielle (IA) est l’une des technologies les plus prometteuses, mais aussi l’une des plus préoccupantes, dans le fintech aujourd’hui. Maintenant que DeepSeek a envoyé des ondes de choc dans tout le secteur de l’IA, ses possibilités et ses pièges spécifiques exigent une attention particulière.

Alors que ChatGPT a propulsé l’IA générative dans le grand public en 2022, DeepSeek l’a portée à de nouveaux sommets avec le lancement de son modèle DeepSeek-R1 en 2025.

L’algorithme est open source et gratuit, mais il a obtenu une performance comparable à celle d’alternatives propriétaires payantes. Ainsi, c’est une opportunité commerciale tentante pour les entreprises fintech qui cherchent à tirer parti de l’IA, mais cela soulève aussi certaines questions éthiques.

Lectures recommandées :

*   **Le modèle R1 de DeepSeek déclenche un débat sur l’avenir du développement de l’IA**
*   **Le modèle d’IA de DeepSeek : opportunité et risque pour les petites entreprises technologiques**

Confidentialité des données

Comme pour de nombreuses applications d’IA, la confidentialité des données est une source de préoccupation. Les grands modèles de langage (LLM) comme DeepSeek nécessitent une quantité substantielle d’informations, et dans un secteur comme le fintech, une grande partie de ces données peut être sensible.

DeepSeek ajoute une complication supplémentaire en étant une entreprise chinoise. Le gouvernement chinois peut accéder à toutes les informations contenues dans des centres de données détenus par des acteurs chinois, ou demander des données aux entreprises du pays. Par conséquent, le modèle peut présenter des risques liés à l’espionnage étranger et à la propagande.

Les fuites de données par des tiers constituent une autre inquiétude. DeepSeek a déjà subi une fuite révélant plus d’un million d’enregistrements, ce qui peut jeter le doute sur la sécurité des outils d’IA.

Biais dans l’IA

Les modèles d’apprentissage automatique comme DeepSeek sont sujets aux biais. Parce que les modèles d’IA sont si doués pour repérer et apprendre des schémas subtils que les humains peuvent manquer, ils peuvent adopter des préjugés inconscients issus de leurs données d’entraînement. En apprenant à partir de ces informations orientées, ils peuvent perpétuer et aggraver les problèmes d’inégalités.

Ces craintes sont particulièrement marquées dans la finance. Comme les institutions financières ont historiquement refusé des opportunités aux minorités, une grande partie de leurs données historiques présente de sérieux biais. Former DeepSeek sur ces ensembles de données pourrait conduire à des actions plus biaisées, comme un refus de prêts ou de prêts hypothécaires fondé sur l’origine ethnique d’une personne plutôt que sur sa solvabilité.

Confiance des consommateurs

Alors que les problèmes liés à l’IA occupent les titres, le grand public est devenu de plus en plus soupçonneux à l’égard de ces services. Cela pourrait entraîner une érosion de la confiance entre une entreprise fintech et sa clientèle s’il ne gère pas ces préoccupations de manière transparente.

DeepSeek pourrait faire face à une barrière particulière ici. La société aurait construit son modèle pour seulement 6 millions de dollars et, en tant qu’entreprise chinoise à forte croissance, elle peut rappeler aux gens les préoccupations de confidentialité qui ont touché TikTok. Le public pourrait ne pas être enthousiaste à l’idée de confier ses données à un modèle d’IA à faible budget, développé rapidement, surtout lorsque le gouvernement chinois peut avoir une certaine influence.

Comment garantir un déploiement de DeepSeek sûr et éthique

Ces considérations éthiques ne signifient pas que les entreprises fintech ne peuvent pas utiliser DeepSeek en toute sécurité, mais elles soulignent l’importance d’une mise en œuvre soigneuse. Les organisations peuvent déployer DeepSeek de manière éthique et sécurisée en respectant ces meilleures pratiques.

Exécuter DeepSeek sur des serveurs locaux

Une des étapes les plus importantes consiste à exécuter l’outil d’IA sur des centres de données nationaux. Bien que DeepSeek soit une entreprise chinoise, ses pondérations de modèle étant open source, il est possible de l’exécuter sur des serveurs américains et d’atténuer les inquiétudes liées aux fuites de données dues au gouvernement chinois.

Cependant, tous les centres de données ne se valent pas en termes de fiabilité. Idéalement, les entreprises fintech hébergeraient DeepSeek sur leur propre matériel. Lorsque cela n’est pas faisable, la direction doit choisir soigneusement un hébergeur, en s’associant uniquement à des prestataires offrant une garantie de disponibilité élevée et des standards de sécurité tels que ISO 27001 et NIST 800-53.

Réduire l’accès aux données sensibles

Lors de la conception d’une application basée sur DeepSeek, les entreprises fintech doivent réfléchir aux types de données auxquels le modèle peut accéder. L’IA ne devrait pouvoir accéder qu’à ce qui est nécessaire pour remplir sa fonction. Il est aussi idéal d’effacer toute donnée accessible inutile, notamment les informations personnellement identifiantes (PII).

Lorsque DeepSeek détient moins de détails sensibles, toute fuite aura moins d’impact. Réduire la collecte de PII est également essentiel pour rester conforme à des lois comme le General Data Protection Regulation (GDPR) et la Gramm-Leach-Bliley Act (GLBA).

Mettre en place des contrôles de cybersécurité

Des réglementations comme le GDPR et la GLBA imposent aussi généralement des mesures de protection pour empêcher les fuites en premier lieu. Même en dehors d’une telle législation, l’historique de DeepSeek en matière de fuites met en évidence le besoin de garanties de sécurité supplémentaires.

Au minimum, les fintechs doivent chiffrer toutes les données accessibles par l’IA au repos et en transit. Il est également idéal d’effectuer régulièrement des tests d’intrusion afin de repérer et corriger les vulnérabilités.

Les organisations fintech devraient aussi envisager une surveillance automatisée de leurs applications DeepSeek, car une telle automatisation permet d’économiser en moyenne 2,2 millions de dollars sur les coûts de violation, grâce à des réponses plus rapides et plus efficaces.

Auditer et surveiller toutes les applications d’IA

Même après avoir suivi ces étapes, il est crucial de rester vigilant. Auditez l’application basée sur DeepSeek avant de la déployer pour rechercher des signes de biais ou de vulnérabilités en matière de sécurité. Rappelez-vous que certains problèmes peuvent ne pas être visibles au premier abord, une revue continue est donc nécessaire.

Créez une équipe opérationnelle dédiée pour surveiller les résultats de la solution d’IA et vous assurer qu’elle demeure éthique et conforme à toute réglementation applicable. Il est aussi préférable d’être transparent avec les clients au sujet de cette pratique. L’assurance peut aider à instaurer la confiance dans un domaine par ailleurs douteux.

Les entreprises fintech doivent tenir compte de l’éthique de l’IA

Les données fintech sont particulièrement sensibles, de sorte que toutes les organisations de ce secteur doivent prendre au sérieux les outils dépendants des données comme l’IA. DeepSeek peut être une ressource professionnelle prometteuse, mais seulement si son utilisation respecte des directives strictes d’éthique et de sécurité.

Une fois que les dirigeants fintech auront compris la nécessité de cette prudence, ils pourront s’assurer que leurs investissements dans DeepSeek et leurs autres projets d’IA restent sûrs et équitables.