ИИ действительно может становиться глупее по мере того, как его всё больше «кормят».

Исследователи из Оксфорда и Кембриджа назвали это явление «коллапсом модели».
Смысл в том, что когда ИИ начинает обучать следующее поколение ИИ с использованием контента, сгенерированного ИИ, модели из поколения в поколение становятся всё более и более тупыми — пока постепенно не забудут, как на самом деле выглядят реальные человеческие данные.
Это похоже на реальный мир, где есть 50% красных цветов, 30% синих, 15% жёлтых и 5% чёрных.
После обучения первого поколения ИИ эти данные могут дать результат 55% красных, 30% синих, 14% жёлтых и 1% чёрных.
Следующее поколение ИИ снова берёт эти материалы для обучения и, возможно, получит уже 60% красных, 30% синих, 10% жёлтых и 0% чёрных.
После нескольких циклов чёрные цветы исчезают, жёлтых становится всё меньше — и в итоге модель начинает «думать», что в мире почти есть только красные и синие цветы.
Переносим это на реальную действительность: редкое, но настоящее содержание будет разбавляться снова и снова, и в итоге то, что останется, будет становиться всё более «безопасным» и всё более похожим друг на друга.