AIは本当に、食べさせるほどどんどんバカになることがあり得ます。

オックスフォードとケンブリッジの研究者は、この現象を「モデルの崩壊」と名付けました。
つまり、AIがAIによって生成された内容で次世代のAIを学習し始めると、モデルは世代ごとにどんどん鈍くなり、やがて本物の人間データがどんなものだったのかを徐々に忘れてしまうということです。
これは、現実世界に50%の赤い花、30%の青い花、15%の黄色い花、5%の黒い花があるのと同じです。
最初の世代のAIがこれらのデータを学習すると、たとえば55%の赤い花、30%の青い花、14%の黄色い花、1%の黒い花を生成するかもしれません。
次の世代のAIがさらにこの内容で学習を続けると、60%の赤い花、30%の青い花、10%の黄色い花、0%の黒い花になってしまうことがあります。
これを何世代か繰り返すと、黒い花が消え、黄色い花もどんどん減り、最後にはモデルは「世界にはほとんど赤い花と青い花しかない」と思い込むようになります。
現実世界に当てはめると、まれだけれど本物の内容は、それが何度も薄められていき、最後に残るものはますます安全になり、同時にますます似通っていきます。