A IA torna-se realmente cada vez mais “burra” à medida que é alimentada.

Investigadores da Oxford e de Cambridge deram a este fenómeno o nome de “colapso do modelo”.
Quer dizer que, quando a IA começa a usar conteúdos gerados por IA para treinar a próxima geração de IA, o modelo vai ficando cada vez mais lento e obtuso de geração em geração, até começar gradualmente a esquecer como são, de facto, os dados humanos reais.
É como se, no mundo real, houvesse 50% de flores vermelhas, 30% de flores azuis, 15% de flores amarelas e 5% de flores pretas.
Depois de a primeira geração de IA aprender estes dados, pode acabar por gerar 55% de flores vermelhas, 30% de flores azuis, 14% de flores amarelas e 1% de flores pretas.
A próxima geração de IA pega novamente nesses conteúdos para continuar o treino e pode passar a ser 60% de flores vermelhas, 30% de flores azuis, 10% de flores amarelas e 0% de flores pretas.
Após continuar este ciclo por algumas gerações, as flores pretas desaparecem e as flores amarelas vão ficando cada vez em menor número; por fim, o modelo vai passar a acreditar que, no mundo, quase só existem flores vermelhas e azuis.
Aplicado ao mundo real, são aqueles conteúdos raros, mas verdadeiros, que vão sendo diluídos em cada ciclo, até que aquilo que resta se torna cada vez mais “seguro” e também cada vez mais semelhante.