Código aberto contra caixas pretas, 200 imagens para desvendar um sistema de marca d'água de trilhões, isso é muito cyberpunk

Notícias do site Coinjie, a XBIT DEX publicou que um desenvolvedor chamado Alosh Denny quebrou o sistema de marca d'água de detecção de IA do Google, que já aplicou marcas d'água invisíveis em mais de 100 bilhões de conteúdos gerados por IA. Denny usou apenas 200 imagens de amostra e alguns métodos matemáticos para engenharia reversa do sistema e criou o “reverse-synthid”: uma ferramenta de código aberto destinada a remover marcas d'água, até que a detecção falhasse. Essa ferramenta remove cerca de 91% das características espectrais das marcas d'água, ao mesmo tempo em que alcança uma taxa de evasão de 16%, quase sem perda visível de qualidade. O projeto foi open source e recebeu mais de 4100 estrelas no GitHub.