AI benar-benar bisa makin lama makin bodoh.

Peneliti dari Oxford dan Cambridge menamai fenomena ini sebagai “runtuhnya model”.
Maksudnya, ketika AI mulai melatih generasi berikutnya AI dengan konten yang dihasilkan oleh AI, model akan menjadi makin tumpul dari generasi ke generasi, sampai perlahan lupa seperti apa data manusia yang sesungguhnya.
Ini seperti di dunia nyata ada 50% bunga merah, 30% bunga biru, 15% bunga kuning, 5% bunga hitam.
Setelah generasi pertama AI mempelajari data ini, ia mungkin menghasilkan 55% bunga merah, 30% bunga biru, 14% bunga kuning, 1% bunga hitam.
Generasi berikutnya AI kemudian mengambil konten tersebut untuk melanjutkan pelatihan, dan mungkin berubah menjadi 60% bunga merah, 30% bunga biru, 10% bunga kuning, 0% bunga hitam.
Terus berulang beberapa generasi, bunga hitam menghilang, bunga kuning juga makin sedikit, dan pada akhirnya model akan mengira bahwa dunia hampir hanya berisi bunga merah dan bunga biru.
Jika diterapkan pada dunia nyata, berarti konten yang jarang namun benar akan terus terdilusi berkali-kali, sampai yang tersisa menjadi makin “aman” dan juga makin mirip.