AIは本当に使うほど馬鹿になる。

オックスフォードとケンブリッジの研究者は、この現象を「モデル・コラプス（崩壊）」と名付けた。
つまり、AIがAI生成のコンテンツで次世代のAIを学習し始めると、モデルは世代を重ねるごとにどんどん鈍くなり、やがて本物の人間データがどんなものだったかを徐々に忘れてしまうということだ。
これは現実世界で、赤い花が50%、青い花が30%、黄色い花が15%、黒い花が5%あるようなものだ。
最初の世代のAIがこれらのデータを学習すると、55%が赤、30%が青、14%が黄、1%が黒みたいに生成するかもしれない。
次の世代のAIが、その内容をさらに使って学習すると、60%が赤、30%が青、10%が黄、0%が黒になってしまう可能性がある。
これを数世代繰り返すと、黒い花は消え、黄色い花もますます減り、最後にはモデルは、世界にはほぼ赤い花と青い花しかないのだと考えるようになる。
現実世界に当てはめると、珍しいが本物の内容が、繰り返し何度も薄められていき、最後に残るものはますます安全になり、そしてますます似通っていく。