هل يمكن أن تصبح الذكاءات الاصطناعية أكثر غباءً كلما تم تغذيتها؟

أطلق باحثون من جامعتي أكسفورد وكامبريدج على هذه الظاهرة اسم “انهيار النموذج”.
المعنى هو أنه عندما تبدأ أنظمة الذكاء الاصطناعي في تدريب الجيل التالي باستخدام محتوى تم توليده بواسطة الذكاء الاصطناعي، فإن النموذج يتراجع تدريجيًا من جيل إلى جيل، حتى ينسى شيئًا فشيئًا كيف تبدو البيانات البشرية الحقيقية.
يشبه ذلك ما يحدث في العالم الواقعي: 50% زهور حمراء، و30% زهور زرقاء، و15% زهور صفراء، و5% زهور سوداء.
بعد أن تتعلم الجيل الأول من الذكاء الاصطناعي هذه البيانات، قد ينتج 55% زهور حمراء، و30% زهور زرقاء، و14% زهور صفراء، و1% زهور سوداء.
ثم تستخدم الجيل التالي هذه المحتويات لمواصلة التدريب، وقد تصبح النِّسب 60% زهور حمراء، و30% زهور زرقاء، و10% زهور صفراء، و0% زهور سوداء.
وبعد تكرار الدورة عدة أجيال، تختفي الزهور السوداء، وتقلّ الزهور الصفراء أكثر فأكثر، وفي النهاية يظن النموذج أن العالم لا يكاد يضم إلا الزهور الحمراء والزهور الزرقاء.
وعند إسقاط ذلك على العالم الحقيقي، فإن المحتوى النادر لكنه حقيقي سيتم تخفيفه كل مرة، إلى أن تصبح البقية أكثر “أمانًا” وأقرب إلى التشابه.