La IA en realidad se vuelve cada vez más tonta con cada entrenamiento.

Investigadores de Oxford y Cambridge han llamado a este fenómeno “colapso del modelo”.
Significa que, cuando la IA empieza a entrenar a la siguiente generación de IA con contenido generado por IA, el modelo se vuelve cada vez más torpe de una generación a otra, hasta que gradualmente olvida cómo son los datos humanos reales.
Es como en el mundo real: 50% flores rojas, 30% flores azules, 15% flores amarillas y 5% flores negras.
Después de que la primera generación de IA aprenda esos datos, podría generar 55% flores rojas, 30% flores azules, 14% flores amarillas y 1% flores negras.
Luego, la siguiente generación de IA vuelve a usar ese contenido para seguir entrenando y podría quedarse en 60% flores rojas, 30% flores azules, 10% flores amarillas y 0% flores negras.
Tras continuar el ciclo durante algunas generaciones, desaparecen las flores negras y las amarillas van siendo cada vez menos; al final, el modelo cree que en el mundo casi solo hay flores rojas y azules.
Llevado al mundo real, eso significa que los contenidos poco comunes pero reales se diluyen una y otra vez; al final, lo que queda es cada vez más “seguro” y también cada vez más parecido.