AI thực sự có thể càng “cho ăn” càng ngu đi.

Các nhà nghiên cứu tại Oxford và Cambridge đã đặt tên cho hiện tượng này là “sự sụp đổ mô hình”.
Ý là khi AI bắt đầu dùng nội dung do AI tạo ra để huấn luyện thế hệ AI tiếp theo, mô hình sẽ ngày càng trở nên kém nhạy qua từng thế hệ, cho tới khi dần quên mất dữ liệu con người thật trông như thế nào.
Giống như trong thế giới thật có 50% hoa đỏ, 30% hoa xanh dương, 15% hoa vàng và 5% hoa đen.
Sau khi thế hệ AI đầu tiên học các dữ liệu này, nó có thể tạo ra 55% hoa đỏ, 30% hoa xanh dương, 14% hoa vàng và 1% hoa đen.
Thế hệ AI tiếp theo lại dùng những nội dung đó để tiếp tục huấn luyện, thì có thể sẽ biến thành 60% hoa đỏ, 30% hoa xanh dương, 10% hoa vàng và 0% hoa đen.
Sau khi lặp lại vài thế hệ, hoa đen sẽ biến mất, hoa vàng cũng ngày càng ít đi, cuối cùng mô hình sẽ nghĩ rằng trên thế giới gần như chỉ có hoa đỏ và hoa xanh dương.
Đặt vào đời thực, thì những nội dung hiếm nhưng có thật sẽ bị pha loãng dần qua từng vòng, để rồi phần còn lại ngày càng “an toàn” hơn và cũng ngày càng giống nhau hơn.