Pourquoi les banques n'osent pas toucher aux "homards"

Lorsque “élever des homards” devient viral sur Internet, le secteur bancaire appuie collectivement sur le bouton “pause”. À l’heure actuelle, aucune banque n’a déployé cet outil à l’échelle de l’ensemble de la banque, plusieurs institutions ont émis des alertes de risque en interne et ont lancé des auto-contrôles spécifiques, en précisant que son accès est interdit sur le réseau interne et qu’il constitue une ligne rouge pour les scénarios d’affaires.

Le refus collectif du secteur bancaire envers “l’homard” ne reflète pas une opposition à l’innovation technologique, mais repose sur la particularité du secteur financier, qui doit faire preuve de prudence entre sécurité et efficacité. La prudence du secteur bancaire est avant tout une manifestation de ses exigences extrêmes en matière de sécurité et de conformité. Le secteur financier gère des risques, supervise la crédibilité, et porte la responsabilité de la sécurité des fonds et de la confidentialité des données personnelles de milliers de ménages. La “constitution” inhérente de l’“homard”, avec ses configurations de permissions système élevées, est en contradiction avec la ligne rouge de sécurité des banques : sa configuration par défaut avec des permissions élevées signifie qu’une fois connecté au réseau interne, il pourrait devenir la porte dérobée permettant aux attaquants d’accéder au système bancaire.

Selon les données sur les risques liés à l’innovation financière, ces dernières années, les attaques cybernétiques et les fuites de données dans le secteur financier ont été en forte hausse. Les attaques par ransomware ont considérablement augmenté à l’échelle mondiale, avec des pertes directes pouvant atteindre plusieurs millions de dollars par incident. En Chine, de nombreux cas de sanctions réglementaires contre des institutions financières pour vulnérabilités systémiques ou mauvaise gestion des données sont rapportés, et les problèmes de fuite d’informations ou d’utilisation illégale de données menacent directement la sécurité financière. Les vulnérabilités dues à une configuration de sécurité faible peuvent servir de porte d’entrée pour le vol de données sensibles ou la manipulation illégale de transactions, ce qui constitue un risque inacceptable pour les banques qui doivent établir un système de gestion des risques rigoureux. Les autorités ont clairement averti que l’utilisation de cet agent intelligent dans les scénarios de transaction financière pourrait entraîner des erreurs de transaction ou même la prise de contrôle de comptes.

Au-delà des vulnérabilités évidentes, la cause profonde du refus des banques à toucher à “l’homard” réside dans l’ambiguïté des responsabilités et l’absence de normes de conformité. L’application de ces agents intelligents n’est pas seulement une question technique, mais aussi une question de conformité et de gouvernance. “L’homard” possède des capacités d’exécution autonome, et en cas de jugement erroné, de déviation ou d’opération illégale dans le processus métier, il est difficile de déterminer la responsabilité. Actuellement, il n’existe pas de normes uniformes pour l’utilisation de l’intelligence artificielle dans le secteur financier, et les étapes de gestion des modèles, d’utilisation des données et de responsabilité en cas de risque manquent de directives claires. Les données de risque montrent que les fraudes financières alimentées par l’IA, les erreurs algorithmiques entraînant des erreurs opérationnelles deviennent de plus en plus fréquentes, et les risques réputationnels ou de conformité liés à une mauvaise utilisation des nouvelles technologies augmentent continuellement.

Le refus des banques envers “l’homard” ne signifie pas un rejet de l’intelligence artificielle. Le secteur bancaire n’a jamais cessé d’explorer la transformation numérique et intelligente. Actuellement, ces agents sont déjà déployés dans des scénarios à faible risque et non essentiels tels que l’assistance au service client, la recherche de documents politiques ou la génération de comptes rendus de réunions, améliorant concrètement l’efficacité opérationnelle et la qualité du service. Les autorités de régulation financière ont clairement indiqué qu’il faut promouvoir l’application de l’intelligence artificielle dans le secteur financier de manière prudente, sûre et ordonnée, afin de libérer la dynamique du développement numérique. Cela envoie un message clair : les banques ne rejettent pas la technologie, mais refusent les risques sans limite et la mise en danger des activités essentielles.

Un consensus s’est déjà formé dans l’industrie : la mise en œuvre de l’intelligence artificielle dans la finance doit être prudente. Les banques doivent profondément transformer leurs modèles, établir un système de sécurité des données tout au long du processus, utiliser des techniques telles que la désidentification et le chiffrement pour délimiter l’usage des données, et perfectionner la gouvernance de l’IA. Ce n’est qu’ainsi qu’elles pourront garantir la sécurité des données dès la source, clarifier la répartition des responsabilités et faire en sorte que l’innovation technologique serve réellement le développement des affaires.

Le développement de la fintech ne doit pas se faire au détriment de la sécurité financière. Face à des technologies innovantes comme “l’homard”, le secteur bancaire doit éviter de suivre aveuglément la tendance ou de se précipiter dans leur déploiement. Adopter une attitude prudente pour préserver la sécurité et respecter la conformité est non seulement une responsabilité envers les consommateurs financiers, mais aussi une garantie pour un développement stable et durable du secteur à long terme.