A IA pode mesmo ficar cada vez mais “burra” à medida que é alimentada.

Investigadores de Oxford e de Cambridge chamaram a este fenómeno “colapso do modelo”.

Significa que, quando a IA começa a usar conteúdo gerado por IA para treinar a próxima geração de IA, o modelo vai ficando cada vez mais pouco capaz de uma geração para a seguinte, até acabar por esquecer como são, de facto, os dados reais gerados por humanos.

É como num mundo real em que há 50% de flores vermelhas, 30% de flores azuis, 15% de flores amarelas e 5% de flores pretas.

Depois de a primeira geração de IA aprender esses dados, pode acabar por gerar 55% de flores vermelhas, 30% de flores azuis, 14% de flores amarelas e 1% de flores pretas.

A próxima geração de IA volta a usar esse conteúdo para continuar a treinar, e pode passar a ser 60% de flores vermelhas, 30% de flores azuis, 10% de flores amarelas e 0% de flores pretas.

Continuando este ciclo por algumas gerações, as flores pretas desaparecem e as flores amarelas vão diminuindo cada vez mais, até ao ponto em que o modelo acha que no mundo quase só existem flores vermelhas e azuis.

No mundo real, isto traduz-se em que conteúdos raros mas reais são diluídos de ronda em ronda; no fim, o que resta fica cada vez mais “seguro” e também cada vez mais semelhante.