Gary Gensler met en garde contre l’impact de l’IA sur les _s financiers, ne touche pas à la crypto-monnaie

Rachel Wolfson

Dernière mise à jour :

18 janvier 2024 02 :58 HNE | Temps de lecture : 4 min

Le président de la SEC, Gary Gensler. Source : Capture d’écran vidéo, YouTube / Le président de la SECSecurities and Exchange Commission (SEC), Gary Gensler, a déjà averti que l’intelligence artificielle (IA) pourrait conduire à la prochaine crise financière. Gensler a une fois de plus développé ce sujet lors d’une discussion virtuelle au coin du feu organisée par l’organisation de défense à but non lucratif Public Citizen le 17 janvier

Gensler a parlé en profondeur de la façon dont l’IA peut manipuler les marchés et les investisseurs, mettant en garde contre le « lavage de l’IA », le biais des algorithmes et plus encore. Au début de la conversation, M. Gensler a également précisé que les sujets qu’il aborderait ne concerneraient que les marchés financiers traditionnels. C’était évident après que le modérateur du panel ait demandé à Gensler s’il avait « inventé » le terme AI washing, ce à quoi Gensler a répondu : « Eh bien, vous avez dit ‘coin’ et c’est une journée sans crypto, donc ce n’est pas ça. »

Gensler met en garde contre la fraude et la manipulation de l’IA

Gensler a ensuite expliqué que le lavage de l’IA fait référence à l’intérêt des investisseurs ou des employés lorsqu’ils font des déclarations sur un nouveau modèle technologique. « Si un émetteur recueille des fonds auprès du public ou ne fait que déposer ses documents trimestriels réguliers, il est censé être honnête dans ces dépôts », a-t-il déclaré. Selon M. Gensler, la SEC a constaté que lorsque de nouvelles technologies entrent en jeu, les émetteurs doivent dire la vérité sur leurs allégations, en détaillant le risque et la façon dont ces risques sont gérés et atténués

Le président de la SEC a également noté qu’étant donné que l’IA est intégrée dans le tissu des marchés financiers, il doit y avoir des moyens de s’assurer que les humains derrière ces modèles n’induisent pas le public en erreur. « La fraude est la fraude, et les gens vont utiliser l’IA pour tromper le public, qu’il s’agisse d’un deep fake ou autre. Il est toujours contraire aux lois de ne pas induire le public en erreur à cet égard », a déclaré Gensler

Gensler a ajouté qu’AI était à blâmer pour un faux article de blog qui annonçait sa démission en juillet 2023. Plus récemment, le compte X officiel de la SEC a été associé à de fausses nouvelles notant l’approbation d’un fonds négocié en bourse (ETF) Bitcoin au comptant, que Gensler a attribué à un piratage plutôt qu’à l’IA

Le compte Twitter @SECGov a été compromis et un tweet non autorisé a été publié. La SEC n’a pas approuvé la cotation et la négociation de produits négociés en bourse bitcoin au comptant.

— Gary Gensler (@GaryGensler) 9 janvier 2024

En outre, Gensler a mentionné que l’IA a permis une nouvelle forme de « diffusion ciblée ». Selon Gensler, la diffusion ciblée permet aux IA de cibler des individus spécifiques en fonction des données des appareils connectés. Bien que cela ne devrait pas être une surprise, Gensler a averti que si l’intérêt d’un robot-conseiller ou d’un courtier passe avant l’intérêt de l’investisseur, un conflit survient

De tels problèmes peuvent également susciter des inquiétudes quant au biais de l’algorithme. Selon Gensler, l’IA peut être utilisée pour sélectionner des éléments tels que les CV à lire lorsque les candidats postulent à un emploi, ou qui peut être éligible à un financement lorsqu’il s’agit d’acheter une maison. Dans cette optique, Gensler a souligné que les données utilisées par les algorithmes peuvent refléter les préjugés de la société. Voici ce qu’il a dit :

« L’IA présente quelques défis en raison du désir insatiable de données, associé au travail de calcul, qui est multidimensionnel. Ces calculs sous-jacents rendent difficile l’explication des décisions finales de l’algorithme. Il peut prédire qui a le meilleur crédit, ou il peut prédire le marché d’une manière ou d’une autre, et comment fixer le prix des produits différemment. Mais que se passe-t-il si cela est également lié à la race, au sexe ou à l’orientation sexuelle d’une personne ? Ce n’est pas ce que nous voulons, et ce n’est même pas autorisé.

Bien que cela représente un défi, Gensler a souligné que ce problème sera résolu avec le temps en raison du fait que les humains définissent les hyperparamètres derrière les algorithmes. Par exemple, Gensler a noté que les individus doivent assumer la responsabilité de comprendre pourquoi les algorithmes basés sur l’IA fonctionnent de certaines manières. « Si les humains ne peuvent pas expliquer pourquoi, alors quelles responsabilités avez-vous en tant que groupe de personnes déployant un modèle pour comprendre votre modèle ? Je pense que cela se jouera dans un certain nombre d’années, et finalement sur le terrain », a déclaré Gensler

L’IA centralisée présente un risque pour le secteur financier dans son ensemble

Tout bien considéré, M. Gensler a déclaré qu’il pensait que l’IA elle-même était positive pour la société, tout comme l’efficacité et l’accès qu’elle peut fournir aux marchés financiers. Cependant, Gensler a averti que l’un des plus grands risques imminents à prendre en compte avec l’IA est la centralisation. « Le problème avec l’IA, c’est que tout ce qui la concerne a une économie similaire à celle des réseaux, de sorte qu’elle tendra vers la centralisation. Je crois qu’il est inévitable que nous ayons mesuré sur les doigts d’une main, de grands modèles et agrégateurs de données », a-t-il déclaré

En raison de l’entrée en jeu de très peu de modèles et d’agrégateurs de données à grande échelle, Gensler pense qu’une « monoculture » se produira probablement. Cela pourrait signifier que des centaines, voire des milliers d’acteurs financiers pourraient s’appuyer sur un modèle central de données ou d’IA. Gensler a en outre souligné que les régulateurs financiers n’ont pas de surveillance sur les nœuds centraux. Voici ce qu’il a dit :

« L’ensemble du secteur financier s’appuiera indirectement sur ces nœuds centraux, et si ces nœuds se trompent, la monoculture va dans un sens. Cela fait peser un risque sur la société et sur le secteur financier dans son ensemble.

M. Gensler a ajouté qu’il continuerait à sensibiliser ses collègues internationaux aux défis liés à l’IA et à l’impact qu’ils auront probablement sur les services financiers traditionnels. « La prise de conscience augmente, mais je m’en tiendrai à notre voie des services financiers et du droit des valeurs mobilières », a-t-il déclaré.