AI 真的會越餵越笨。

牛津和劍橋的研究人員，將這種現象命名為「模型坍塌」。
意思是，當 AI 開始用 AI 生成的內容來訓練下一代 AI 時，模型會一代代變得越來越遲鈍，直到逐漸忘記真實的人類資料長什麼樣子。
這就好比，在真實世界裡有 50% 紅花，30% 藍花，15% 黃花，5% 黑花。
第一代 AI 學習這些資料後，可能生成 55% 紅花，30% 藍花，14% 黃花，1% 黑花。
下一代 AI 再拿這些內容繼續訓練，可能就變成 60% 紅花，30% 藍花，10% 黃花，0% 黑花。
繼續循環幾代後，黑花消失了，黃花也越來越少，最後模型會以為，世界上幾乎只有紅花和藍花。
放到真實世界裡，就是那些少見卻真實的內容，會被一輪輪稀釋，最後剩下的東西越來越安全，也越來越相似。