Permite-te identificar imagens geradas por IA! A OpenAI utiliza a marca d'água SynthID, lançando uma ferramenta de verificação pública

OpenAI anuncia o fortalecimento do reconhecimento de imagens geradas por IA, além do certificado C2PA, introduzindo pela primeira vez a marca d'água invisível SynthID, desenvolvida pelo Google, e lançando uma ferramenta de verificação pública, acelerando a criação de um padrão de rastreabilidade comum entre empresas.

No dia 19 de maio, a OpenAI anunciou que quer facilitar a identificação de "imagens geradas por IA". Além do certificado de conteúdo C2PA existente, a OpenAI agora adiciona uma camada de marca d'água invisível SynthID às imagens e lança uma ferramenta de verificação pública, onde qualquer pessoa pode fazer upload de uma imagem e verificar se ela foi gerada pelo modelo da OpenAI. O SynthID não é uma tecnologia própria da OpenAI, mas sim um padrão de marca d'água desenvolvido pelo Google DeepMind.

Por que usar mecanismos paralelos de C2PA e SynthID

A abordagem do certificado de conteúdo C2PA consiste em incluir metadados no arquivo de imagem, registrando sua origem e histórico de edição; porém, esses metadados muitas vezes são removidos ao fazer upload em plataformas sociais, ao salvar ou ao tirar screenshots. O SynthID, por sua vez, insere um sinal que os olhos humanos não percebem diretamente nos pixels, permitindo que, mesmo após a remoção dos metadados, seja possível detectá-lo com ferramentas específicas. Ter ambos os mecanismos em paralelo garante que, enquanto os metadados estiverem presentes, a origem completa possa ser rastreada, e, após sua remoção, ainda reste uma marca d'água identificável.

Ferramenta de verificação lançada, mas atualmente reconhece apenas imagens geradas pela OpenAI

Junto com esse mecanismo, foi lançada uma ferramenta pública de verificação, onde qualquer pessoa pode fazer upload de uma imagem para confirmar se ela foi gerada por um modelo da OpenAI. A marca d'água é aplicada inicialmente em imagens produzidas pelo ChatGPT, Codex e API da OpenAI. No entanto, a ferramenta atualmente só consegue identificar imagens criadas pelos produtos da própria OpenAI, não sendo capaz de verificar imagens geradas por outras empresas de IA. A OpenAI afirmou que espera expandir gradualmente o alcance dessa verificação no futuro.

Google e OpenAI se aproximam na implementação do SynthID

O SynthID foi desenvolvido pelo Google DeepMind, originalmente para marcar conteúdos gerados por IA da própria Google. Agora, a OpenAI também adotou a mesma marca d'água, seguindo o exemplo de Kakao e da empresa de voz ElevenLabs, além da Nvidia, que já utilizava uma tecnologia semelhante anteriormente. Quando duas das principais empresas de IA convergem na mesma metodologia de rastreamento, a questão de como marcar e verificar conteúdos gerados por IA começa a se consolidar como uma prática comum entre diferentes empresas.

• Este artigo foi reproduzido com autorização de: 《Notícias de Blockchain》
• Título original: 《OpenAI adiciona rastreabilidade às imagens de IA: usa marca d'água Google SynthID e lança ferramenta de verificação》
• Autor original: Elponcrab