ШІ справді стає все тупішим, чим більше його «підгодовують».

Дослідники з Оксфорда й Кембриджа назвали це явище «колапсом моделі».
Сенс у тому, що коли ШІ починає тренувати наступне покоління ШІ на контенті, згенерованому самим ШІ, модель з покоління в покоління стає дедалі менш кмітливою, аж доки поступово не забуде, якими насправді є реальні людські дані.
Це схоже на реальний світ, де є 50% червоних квітів, 30% синіх квітів, 15% жовтих квітів і 5% чорних квітів.
Після того як перше покоління ШІ вивчить ці дані, воно може згенерувати 55% червоних квітів, 30% синіх, 14% жовтих і 1% чорних.
Наступне покоління ШІ знову бере цей контент для продовження тренування і може отримати 60% червоних, 30% синіх, 10% жовтих і 0% чорних.
Після кількох циклів кількох поколінь чорні квіти зникають, жовтих стає дедалі менше, і врешті модель вважає, що у світі майже існують лише червоні й сині квіти.
У реальному світі це означає, що ті рідкісні, але справжні змісти щоразу розбавляються черговими раундами, і в кінці залишається дедалі безпечніше — і дедалі схоже.