AI真的会越喂越傻。

牛津和剑桥的研究人员，将这种现象命名为“模型坍塌”。
意思是，当 AI 开始用 AI 生成的内容训练下一代 AI 时，模型会一代代变得越来越迟钝，直到逐渐忘记真实的人类数据是什么样子。
这就好比，真实世界里有 50% 红花，30% 蓝花，15% 黄花，5% 黑花。
第一代 AI 学习这些数据后，可能生成 55% 红花，30% 蓝花，14% 黄花，1% 黑花。
下一代 AI 再拿这些内容继续训练，可能就变成 60% 红花，30% 蓝花，10% 黄花，0% 黑花。
继续循环几代后，黑花消失了，黄花也越来越少，最后模型会以为，世界上几乎只有红花和蓝花。
放到真实世界里，就是那些少见却真实的内容，会被一轮轮稀释，最后剩下的东西越来越安全，也越来越相似。