ИИ на самом деле будет становиться всё более глупым, чем больше его «кормят».

Исследователи из Оксфорда и Кембриджа назвали это явление «коллапсом модели».
Смысл в том, что когда ИИ начинает обучать следующее поколение ИИ с помощью контента, сгенерированного самим ИИ, модели из поколения в поколение становятся всё более тупыми — пока постепенно не забудут, как на самом деле выглядят реальные человеческие данные.
Это похоже на реальный мир, где 50% — красные цветы, 30% — синие, 15% — жёлтые, 5% — чёрные.
После того как первое поколение ИИ обучается на этих данных, оно может начать генерировать 55% красных, 30% синих, 14% жёлтых и 1% чёрных.
Следующее поколение ИИ продолжает обучаться на этих материалах и может превратиться в 60% красных, 30% синих, 10% жёлтых и 0% чёрных.
Если повторить этот цикл через несколько поколений, исчезнут чёрные цветы, а жёлтых станет всё меньше; в итоге модель будет считать, что в мире почти одни только красные и синие цветы.
В реальной жизни это означает: редкий, но настоящий контент будет снова и снова разбавляться, пока остающееся со временем не станет всё более «безопасным» и всё более похожим.