A IA realmente vai ficando cada vez mais “burra” à medida que alimenta.

Pesquisadores de Oxford e Cambridge deram a esse fenômeno o nome de “colapso do modelo”.
A ideia é que, quando a IA começa a usar conteúdo gerado por IA para treinar a próxima geração de IA, o modelo vai ficando cada vez mais “lento” de uma geração para a outra, até acabar esquecendo como são, de fato, os dados humanos reais.
É como, no mundo real, existir 50% de flores vermelhas, 30% de flores azuis, 15% de flores amarelas e 5% de flores pretas.
Depois que a primeira geração de IA aprende esses dados, ela pode gerar 55% de flores vermelhas, 30% de flores azuis, 14% de flores amarelas e 1% de flores pretas.
A próxima geração de IA, usando esse conteúdo para continuar o treinamento, pode acabar chegando a 60% de flores vermelhas, 30% de flores azuis, 10% de flores amarelas e 0% de flores pretas.
Continuando esse ciclo por algumas gerações, as flores pretas desaparecem e as amarelas vão ficando cada vez menos; no fim, o modelo passa a achar que o mundo tem quase só flores vermelhas e azuis.
Na prática, isso significa que aqueles conteúdos raros, mas reais, acabam sendo diluídos em rodadas repetidas, e o que sobra no fim fica cada vez mais “seguro” e também cada vez mais parecido.