AI справді може ставати дедалі дурнішим від того, що його дедалі більше “годять”.

Дослідники з Оксфорда та Кембриджа назвали це явище «колапсом моделі».
Це означає, що коли ШІ починає використовувати контент, згенерований ШІ, для тренування наступного покоління ШІ, модель з покоління в покоління стає дедалі менш кмітливою, аж доки поступово не “забуде”, якими насправді були дані від реальних людей.
Це можна порівняти з реальним світом, де є 50% червоних квітів, 30% синіх, 15% жовтих і 5% чорних.
Після того, як перше покоління ШІ вчиться на цих даних, воно може згенерувати 55% червоних, 30% синіх, 14% жовтих і 1% чорних.
А наступне покоління ШІ знову бере ці матеріали для подальшого тренування — і може вийти вже 60% червоних, 30% синіх, 10% жовтих і 0% чорних.
Продовжуючи цей цикл кілька поколінь, чорні квіти зникають, жовтих стає дедалі менше, і зрештою модель починає вважати, що в світі майже існують лише червоні та сині квіти.
У реальному світі це означає, що ті рідкісні, але правдиві за змістом дані будуть щоразу розбавлятися, і врешті те, що залишиться, буде дедалі “безпечнішим”, а також дедалі більш схожим.