Gary Gensler alerta sobre o impacto da IA na _s financeira e não toca na criptomoeda

Raquel Wolfson

Última atualização:

18 de janeiro de 2024 02:58 EST | 4 min de leitura

Presidente da SEC, Gary Gensler. Fonte: Uma captura de tela de vídeo, YouTube / SECSecurities and Exchange Commission (SEC) O presidente Gary Gensler já alertou que a inteligência artificial (IA) pode levar à próxima crise financeira. Gensler mais uma vez elaborou sobre este tema durante um bate-papo virtual promovido pela organização de defesa sem fins lucrativos Public Citizen em 17 de janeiro

Gensler falou em profundidade sobre como a IA pode manipular mercados e investidores, alertando contra a “lavagem da IA”, o viés do algoritmo e muito mais. Quando a conversa começou, Gensler também esclareceu que os temas que abordaria pertenceriam apenas aos mercados financeiros tradicionais. Isso ficou evidente depois que o moderador do painel perguntou a Gensler se ele “cunhou” o termo AI washing, ao que Gensler respondeu: “Bem, você disse ‘moeda’ e este é um dia livre de criptomoedas, então não é isso.”

Gensler alerta sobre fraude e manipulação de IA

Gensler então continuou explicando que a lavagem de IA se refere ao interesse de investidores ou funcionários que ocorre ao fazer alegações sobre um novo modelo de tecnologia. “Se um emissor está levantando dinheiro do público ou apenas fazendo seu depósito trimestral regular, é suposto ser verdadeiro nesses depósitos”, disse ele. De acordo com Gensler, a SEC descobriu que, quando novas tecnologias entram em jogo, os emissores devem ser verdadeiros sobre suas reivindicações, detalhando o risco e como esses riscos estão sendo gerenciados e mitigados

O presidente da SEC também observou que, como a IA está incorporada no tecido dos mercados financeiros, precisa haver maneiras de garantir que os seres humanos por trás desses modelos não estejam enganando o público. “Fraude é fraude, e as pessoas vão usar IA para falsificar o público, deep fake, ou de outra forma. Ainda é contra as leis não enganar o público a este respeito”, disse Gensler

Gensler acrescentou que a IA era a culpada por uma postagem falsa no blog que anunciou sua renúncia em julho de 2023. Mais recentemente, a conta X oficial da SEC foi associada a notícias falsas que observavam a aprovação de um fundo negociado em bolsa (ETF) de Bitcoin à vista, que Gensler atribuiu a um hack em vez de IA

A conta @SECGov no Twitter foi comprometida e um tweet não autorizado foi publicado. A SEC não aprovou a listagem e negociação de produtos à vista negociados em bolsa de bitcoin.

— Gary Gensler (@GaryGensler) 9 de janeiro de 2024

Além disso, Gensler mencionou que a IA permitiu uma nova forma de “narrowcasting”. De acordo com Gensler, o narrowcasting permite que os usuários habilitados para IA tenham como alvo indivíduos específicos com base em dados de dispositivos conectados. Embora isso não deva ser uma surpresa, Gensler alertou que, se um consultor robo ou corretor colocar o interesse de um consultor robo ou corretor à frente do interesse do investidor, surge um conflito

Tais problemas também podem levar a preocupações em torno do viés do algoritmo. De acordo com Gensler, a IA pode ser usada para selecionar coisas como quais currículos ler quando os candidatos se candidatam a empregos, ou quem pode ser elegível para financiamento quando se trata de comprar uma casa. Pensando nisso, Gensler apontou que os dados usados pelos algoritmos podem refletir vieses da sociedade. Ele disse:

“Há alguns desafios embutidos na IA por causa do desejo insaciável por dados, juntamente com o trabalho computacional, que é multidimensional. Essa matemática por trás disso torna difícil explicar as decisões finais do algoritmo. Ele pode prever quem tem melhor crédito, ou pode prever para o mercado de uma forma ou de outra, e como precificar os produtos de forma diferente. Mas e se isso também estiver relacionado à raça, gênero ou orientação sexual de cada um? Não é isso que queremos e nem sequer é permitido.”

Embora isso represente um desafio, Gensler apontou que isso será resolvido ao longo do tempo devido ao fato de que os seres humanos estão definindo os hiperparâmetros por trás dos algoritmos. Por exemplo, Gensler observou que os indivíduos devem assumir a responsabilidade de entender por que os algoritmos baseados em IA funcionam de determinadas maneiras. “Se os seres humanos não conseguem explicar o porquê, então que responsabilidades você tem como um grupo de pessoas implantando um modelo para entender seu modelo? Acho que isso vai acontecer em vários anos e, finalmente, no tribunal”, disse Gensler

IA centralizada representa risco para o setor financeiro em geral

Tudo considerado, Gensler comentou que ele acha que a IA em si é positiva para a sociedade, juntamente com a eficiência e o acesso que ela pode fornecer nos mercados financeiros. No entanto, Gensler alertou que um dos maiores riscos iminentes a considerar com a IA é a centralização. “A coisa sobre IA é que tudo nela tem economia semelhante de redes, de modo que tenderá à centralização. Acredito que é inevitável que tenhamos medido nos dedos de uma mão, grandes modelos baseados e agregadores de dados”, disse

Como resultado de muito poucos grandes modelos baseados e agregadores de dados entrando em jogo, Gensler acredita que uma “monocultura” provavelmente ocorrerá. Isso pode significar que centenas ou milhares de atores financeiros podem confiar em um modelo central de dados ou IA central. Gensler apontou ainda que os reguladores financeiros não têm supervisão dos nós centrais. Ele disse:

"Todo o setor financeiro indiretamente estará confiando nesses nós centrais, e se esses nós estiverem errados, a monocultura vai para um lado. Esta situação coloca em risco a sociedade e o setor financeiro em geral.»

Gensler acrescentou que continuará a aumentar a conscientização entre seus colegas internacionais sobre os desafios em torno da IA e o impacto que eles provavelmente terão nas finanças tradicionais.