O debate sobre deepfake ficou ainda mais quente. A Public Citizen, uma organização de defesa do consumidor, está a pedir à OpenAI que retire do mercado o seu gerador de vídeos AI, Sora — citando preocupações sérias sobre o potencial de uso indevido desta tecnologia.

O argumento deles? A capacidade do Sora de criar vídeos falsos hiper-realistas pode transformar a desinformação numa arma em escala nunca antes vista. Pense-se em interferência em eleições, fraude de identidade ou campanhas coordenadas de desinformação que confundem a linha entre realidade e ficção.

O que torna esta situação diferente de controvérsias anteriores relacionadas com IA é o timing. Estamos a entrar numa era em que ferramentas de media sintética estão a tornar-se acessíveis ao público em geral — não apenas aos elites tecnológicas ou atores estatais. A barreira para criar conteúdos falsos convincentes está a desmoronar-se rapidamente.

A OpenAI ainda não retirou o produto, mas a pressão está a aumentar. Algumas vozes na indústria argumentam que a inovação não deve ser travada por riscos hipotéticos, enquanto outras apontam para a falta de salvaguardas robustas incorporadas nestas ferramentas antes do seu lançamento.

Aqui está a perspetiva mais ampla: à medida que a IA generativa avança rapidamente, os quadros regulatórios ficam atrás. Seja na síntese de vídeos, clonagem de voz ou geração de texto, a questão não é apenas o que estas ferramentas podem fazer — é se a sociedade está preparada para as consequências quando forem usadas em larga escala.

A controvérsia do Sora pode ser uma antevisão das batalhas que virão. Como equilibramos o progresso tecnológico com a segurança pública? E quem decide quando uma ferramenta é demasiado perigosa para ser lançada?