AI memang benar-benar bisa jadi makin lama makin “bodoh” hanya karena terus diberi makan datanya.

Peneliti dari Oxford dan Cambridge menamai fenomena ini “model collapse”.
Maksudnya, ketika AI mulai melatih generasi berikutnya AI dengan konten yang dihasilkan oleh AI, model akan menjadi semakin tidak responsif dari generasi ke generasi, sampai perlahan lupa seperti apa data manusia yang sebenarnya.

Ini seperti di dunia nyata ada 50% bunga merah, 30% bunga biru, 15% bunga kuning, 5% bunga hitam.
Setelah AI generasi pertama mempelajari data tersebut, ia mungkin menghasilkan 55% bunga merah, 30% bunga biru, 14% bunga kuning, 1% bunga hitam.
Lalu generasi berikutnya AI memakai konten itu untuk terus dilatih, dan mungkin berubah menjadi 60% bunga merah, 30% bunga biru, 10% bunga kuning, 0% bunga hitam.
Setelah beberapa generasi terus berulang, bunga hitam menghilang, bunga kuning pun makin sedikit, dan akhirnya model akan mengira bahwa di dunia hampir hanya ada bunga merah dan biru.

Kalau diterjemahkan ke dunia nyata, konten yang jarang tapi benar-benar ada akan terus diencerkan dari satu putaran ke putaran berikutnya, sampai yang tersisa makin “aman”, dan juga makin mirip.