Acabei de me deparar com algo bastante louco. Scarlett Johansson está a denunciar os legisladores depois de um vídeo deepfake com ela e várias outras celebridades judaicas ter se tornado viral. O vídeo era basicamente versões geradas por IA dessas estrelas a opor-se aos recentes discursos antissemitas de Kanye West, que... sim, isso aconteceu novamente.

Então, aqui está o que aconteceu. O vídeo supostamente veio de um especialista israelita em IA e apresentava mais de 20 celebridades, incluindo Adam Sandler, Mila Kunis, Drake, Steven Spielberg e outros. Todos usam camisas brancas com um dedo do meio e imagens da Estrela de David. A mensagem no final era "Basta é Basta" e um apelo para combater o antisemitismo. Honestamente, a intenção parece sólida, mas a execução é o verdadeiro problema aqui.

Johansson divulgou uma declaração dizendo que tem sido uma vítima pública de deepfakes de IA. Lembra-se quando a voz do ChatGPT da OpenAI, 'Sky', soava suspeitosamente como ela? Ou aquela empresa que usou a sua imagem para um anúncio sem permissão? Isto está a tornar-se um padrão. Mas o que realmente a deixou irritada foi a visão mais ampla. Ela está basicamente a dizer que o governo dos EUA está a dormir no que diz respeito à regulamentação da IA, enquanto outros países estão a fazer algo a respeito.

As suas palavras exatas foram algo como: há uma onda de 1000 pés de altura com a IA a chegar e nós estamos apenas a assistir. Ela está a apelar ao Congresso para fazer da legislação sobre IA uma prioridade máxima, porque isto nos afeta a todos, não apenas às celebridades. A ameaça já não é só sobre imagens roubadas. É sobre como a IA pode amplificar discursos de ódio e desinformação em grande escala.

O que é interessante é que, enquanto a situação de Scarlett Johansson e Kanye West chamou atenção, David Schwimmer, de Friends, também se pronunciou sobre Elon Musk no fim de semana, dizendo que Musk precisa de parar de dar a West um megafone. Schwimmer apontou que West tem 32,7 milhões de seguidores no X, o que é literalmente o dobro do número de judeus no mundo. Essa é a verdadeira questão por trás de tudo isto.

No entanto, o ponto principal de Johansson é sólido: não podemos apenas denunciar atores individuais maus. Precisamos de regulamentar a tecnologia que torna tudo isto possível desde o início. Ela tem razão ao dizer que conteúdos gerados por IA com o objetivo de espalhar ódio são muito mais perigosos do que qualquer discurso de uma pessoa. A situação do deepfake da Scarlett Johansson é apenas o exemplo mais visível de um problema muito maior para o qual não estamos preparados.