Gary Gensler advierte sobre el impacto de la IA en la _s financiera y no toca el tema de las criptomonedas

Rachel Wolfson

Última actualización:

18 de enero de 2024 02:58 EST | 4 min de lectura

El presidente de la SEC, Gary Gensler. Fuente: Captura de pantalla de video, YouTube / SECSecurities and Exchange Commission (SEC) El presidente de la Comisión de Bolsa y Valores (SEC, por sus siglas en inglés), Gary Gensler, ha advertido anteriormente que la inteligencia artificial (IA) podría conducir a la próxima crisis financiera. Gensler se explayó una vez más sobre este tema durante una charla virtual organizada por la organización de defensa sin fines de lucro Public Citizen el 17 de enero

Gensler habló en profundidad sobre cómo la IA puede manipular los mercados y los inversores, advirtiendo contra el “lavado de la IA”, el sesgo de los algoritmos y más. Al comenzar la conversación, Gensler también aclaró que los temas que abordaría solo se referirían a los mercados financieros tradicionales. Esto fue evidente después de que el moderador del panel le preguntara a Gensler si había “acuñado” el término lavado de IA, a lo que Gensler respondió: “Bueno, dijiste ‘moneda’ y este es un día libre de criptomonedas, así que no es eso”.

Gensler advierte sobre el fraude y la manipulación de la IA

A continuación, Gensler procedió a explicar que el lavado de la IA se refiere al interés de los inversores o empleados que se produce al hacer afirmaciones sobre un nuevo modelo tecnológico. “Si un emisor está recaudando dinero del público o simplemente haciendo su presentación trimestral regular, se supone que debe ser veraz en esas presentaciones”, dijo. Según Gensler, la SEC ha descubierto que cuando entran en juego nuevas tecnologías, los emisores deben ser veraces sobre sus afirmaciones, detallando el riesgo y cómo se gestionan y mitigan esos riesgos

El presidente de la SEC también señaló que, dado que la IA está integrada en el tejido de los mercados financieros, debe haber formas de garantizar que los humanos detrás de estos modelos no engañen al público. “El fraude es un fraude, y la gente va a utilizar la IA para falsificar al público, el deep fake, o de otro modo. Todavía va en contra de las leyes no engañar al público en este sentido”, dijo Gensler

Gensler agregó que AI fue la culpable de una publicación de blog falsa que anunció su renuncia en julio de 2023. Más recientemente, la cuenta oficial X de la SEC se asoció con noticias falsas que señalaban la aprobación de un fondo cotizado en bolsa (ETF) de Bitcoin al contado, que Gensler atribuyó a un hackeo en lugar de a la IA

La cuenta de Twitter de @SECGov se vio comprometida y se publicó un tuit no autorizado. La SEC no ha aprobado la cotización y negociación de productos cotizados en bolsa de bitcoin al contado.

— Gary Gensler (@GaryGensler) 9 de enero de 2024

Además, Gensler mencionó que la IA ha permitido una nueva forma de “difusión restringida”. Según Gensler, la difusión restringida permite que las tecnologías habilitadas para IA se dirijan a personas específicas en función de los datos de los dispositivos conectados. Si bien esto no debería ser una sorpresa, Gensler advirtió que si se antepone el interés de un robo advisor o corredor de bolsa al interés del inversionista, surge un conflicto

Estos problemas también pueden generar preocupaciones sobre el sesgo de los algoritmos. Según Gensler, la IA se puede utilizar para seleccionar cosas como qué currículos leer cuando los solicitantes solicitan trabajo, o quién puede ser elegible para financiamiento cuando se trata de comprar una casa. Teniendo esto en cuenta, Gensler señaló que los datos utilizados por los algoritmos pueden reflejar los sesgos de la sociedad. Dijo:

“Hay un par de desafíos incrustados en la IA debido al deseo insaciable de datos, junto con el trabajo computacional, que es multidimensional. Esa matemática detrás de esto hace que sea difícil explicar las decisiones finales del algoritmo. Puede predecir quién tiene mejor crédito, o puede predecir comercializar de una forma u otra, y cómo fijar el precio de los productos de manera diferente. Pero, ¿qué pasa si eso también está relacionado con la raza, el género o la orientación sexual de una persona? Esto no es lo que queremos, y ni siquiera está permitido”.

Si bien esto presenta un desafío, Gensler señaló que esto se resolverá con el tiempo debido al hecho de que los humanos están estableciendo los hiperparámetros detrás de los algoritmos. Por ejemplo, Gensler señaló que las personas deben asumir la responsabilidad de comprender por qué los algoritmos basados en IA funcionan de cierta manera. “Si los humanos no pueden explicar por qué, ¿qué responsabilidades tienen como grupo de personas que implementan un modelo para comprender su modelo? Creo que esto se desarrollará en varios años y, en última instancia, en la corte”, dijo Gensler

La IA centralizada supone un riesgo para el sector financiero en general

A fin de cuentas, Gensler comentó que cree que la IA en sí misma es positiva para la sociedad, junto con la eficiencia y el acceso que puede proporcionar en los mercados financieros. Sin embargo, Gensler advirtió que uno de los mayores riesgos que hay que tener en cuenta con la IA es la centralización. “Lo que pasa con la IA es que todo en ella tiene una economía similar a la de las redes, por lo que tenderá a la centralización. Creo que es inevitable que tengamos que medir con los dedos de una mano, modelos de base grande y agregadores de datos”, dijo

Como resultado de la entrada en juego de muy pocos modelos y agregadores de datos basados en grandes dimensiones, Gensler cree que es probable que se produzca un “monocultivo”. Esto podría significar que cientos o miles de actores financieros pueden confiar en un modelo central de datos o de IA. Gensler señaló además que los reguladores financieros no tienen supervisión de los nodos centrales. Dijo:

“Todo el sector financiero indirectamente dependerá de esos nodos centrales, y si esos nodos se equivocan, el monocultivo va en una dirección. Esto pone en riesgo a la sociedad y al sector financiero en general”.

Gensler agregó que continuará creando conciencia entre sus colegas internacionales sobre los desafíos en torno a la IA y el impacto que probablemente tendrán en las finanzas tradicionales. “La conciencia está aumentando, pero me ceñiré a nuestro carril de servicios financieros y ley de valores”, dijo.