La IA realmente podría volverse más y más tonta cuanto más se la alimente.

Investigadores de Oxford y Cambridge han bautizado este fenómeno como “colapso de modelos”.
Significa que, cuando una IA empieza a entrenar a la siguiente generación de IA con contenido generado por IA, el modelo se vuelve cada vez más torpe, generación tras generación, hasta que gradualmente olvida cómo son realmente los datos humanos.
Es como en el mundo real, donde hay 50% de flores rojas, 30% de flores azules, 15% de flores amarillas y 5% de flores negras.
Después de que la primera generación de IA aprenda estos datos, podría generar 55% de flores rojas, 30% de flores azules, 14% de flores amarillas y 1% de flores negras.
La siguiente generación de IA toma de nuevo ese contenido para seguir entrenando, y podría volverse a 60% de flores rojas, 30% de flores azules, 10% de flores amarillas y 0% de flores negras.
Después de repetir el ciclo durante varias generaciones, las flores negras desaparecen y las flores amarillas van quedando cada vez menos; al final, el modelo cree que en el mundo casi solo hay flores rojas y azules.
Llevado al mundo real, esto significa que aquellos contenidos raros pero reales se van diluyendo una y otra vez, hasta que lo que queda es cada vez más “seguro” y, al mismo tiempo, cada vez más parecido.