AI真的 pode ficar cada vez mais burra quanto mais é alimentada.

Pesquisadores de Oxford e Cambridge deram a esse fenômeno o nome de “colapso do modelo”.
A ideia é que, quando a IA começa a usar conteúdo gerado por IA para treinar a próxima geração de IA, o modelo vai ficando, geração após geração, cada vez mais lento e menos preciso, até gradualmente esquecer como são de verdade os dados humanos.
É como se, no mundo real, houvesse 50% de flores vermelhas, 30% de flores azuis, 15% de flores amarelas e 5% de flores pretas.
Depois que a primeira geração de IA aprende esses dados, ela pode gerar 55% de flores vermelhas, 30% de flores azuis, 14% de flores amarelas e 1% de flores pretas.
A próxima geração de IA pega esse conteúdo e continua treinando; então pode virar 60% de flores vermelhas, 30% de flores azuis, 10% de flores amarelas e 0% de flores pretas.
Depois de continuar esse ciclo por algumas gerações, as flores pretas desaparecem e as amarelas vão ficando cada vez menos; no fim, o modelo passa a achar que, no mundo, quase só existem flores vermelhas e azuis.
No mundo real, isso equivale a conteúdos raros, mas reais, serem diluídos em ciclos sucessivos, até que o que sobra fique cada vez mais “seguro” e cada vez mais parecido.