AI thật sự sẽ càng được “nhồi” càng ngu.

Các nhà nghiên cứu ở Oxford và Cambridge đã đặt tên cho hiện tượng này là “sự sụp đổ mô hình”.
Nghĩa là, khi AI bắt đầu dùng nội dung do AI tạo ra để huấn luyện AI thế hệ tiếp theo, mô hình sẽ ngày càng kém nhạy bén qua từng thế hệ, cho đến khi dần quên mất dữ liệu con người thật trông như thế nào.
Giống như trong thế giới thực có 50% hoa đỏ, 30% hoa xanh, 15% hoa vàng, 5% hoa đen.
Sau khi thế hệ AI đầu tiên học các dữ liệu này, nó có thể tạo ra 55% hoa đỏ, 30% hoa xanh, 14% hoa vàng, 1% hoa đen.
Thế hệ AI tiếp theo lại lấy những nội dung này để huấn luyện tiếp, thì có thể sẽ biến thành 60% hoa đỏ, 30% hoa xanh, 10% hoa vàng, 0% hoa đen.
Cứ lặp lại qua vài thế hệ, hoa đen sẽ biến mất, hoa vàng cũng ngày càng ít đi, và cuối cùng mô hình sẽ nghĩ rằng trên thế giới gần như chỉ có hoa đỏ và hoa xanh.
Đưa vào thế giới thực thì, những nội dung hiếm nhưng thật sẽ bị pha loãng qua từng vòng, để rồi phần còn lại ngày càng “an toàn” hơn và cũng ngày càng giống nhau hơn.