هل سيصبح الذكاء الاصطناعي أكثر غباءً كلما تم تغذيته أكثر؟

سمّى باحثون من جامعة أكسفورد وجامعة كامبريدج هذه الظاهرة «انهيار النموذج».
يعني ذلك أنه عندما يبدأ الذكاء الاصطناعي في استخدام المحتوى المُولَّد بالذكاء الاصطناعي لتدريب جيلٍ تالٍ من الذكاء الاصطناعي، تصبح النماذج أكثر خمولًا وبُطئًا مع كل جيل، إلى أن تنسى شيئًا فشيئًا كيف تبدو البيانات البشرية الحقيقية.
وهذا يشبه أن العالم الحقيقي فيه 50% من الزهور الحمراء و30% من الزهور الزرقاء و15% من الزهور الصفراء و5% من الزهور السوداء.
بعد أن تتعلم الجيل الأول من الذكاء الاصطناعي هذه البيانات، فقد ينتج 55% من الزهور الحمراء و30% من الزهور الزرقاء و14% من الزهور الصفراء و1% من الزهور السوداء.
ثم يستمر الجيل التالي في أخذ هذه المحتويات لمواصلة التدريب، وقد يتحول الأمر إلى 60% من الزهور الحمراء و30% من الزهور الزرقاء و10% من الزهور الصفراء و0% من الزهور السوداء.
وبعد مواصلة تكرار هذه العملية لعدة أجيال، تختفي الزهور السوداء، وتقل الزهور الصفراء أكثر فأكثر، وفي النهاية يظن النموذج أن العالم يكاد يضم فقط الزهور الحمراء والزهور الزرقاء.
وعند إسقاط ذلك على العالم الحقيقي، فإن المحتوى النادر لكنه حقيقي يُخفَّف على نحوٍ متتالٍ في كل جولة، ثم يصبح المتبقي في النهاية أكثر أمانًا وأقل تنوعًا، وأكثر تشابهًا.