أكثر من 200 منظمة حقوق الطفل تتحد للمطالبة بحظر كامل على YouTube لمنع دخول "المحتوى غير المرغوب فيه" الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي إلى منصة الأطفال

رسالة من TechFlow بموجز، في 02 أبريل، وفقًا لتقرير من Fortune، وقّع أكثر من 200 منظمة وخبير معنيين بحقوق الأطفال، من بينهم اتحاد المعلمين في الولايات المتحدة وجمعية الاستشارات الأمريكية، رسالةً مشتركة إلى الرئيس التنفيذي لـ YouTube Neal Mohan وإلى الرئيس التنفيذي لشركة Google Sundar Pichai، يطلبون فيها من المنصّة حظرًا شاملًا لمنع ظهور “الفيديوهات العشوائية” منخفضة الجودة المُولّدة بالذكاء الاصطناعي (AI slop) على YouTube Kids.

وقد قاد منظمة Fairplay رسالةَ التحالف التي طُرحت، كما شارك في التوقيع عليها عدد من الباحثين والعلماء البارزين مثل مؤلف كتاب “The Anxious Generation” Jonathan Haidt. ويشير الخطاب إلى أن كمًا كبيرًا من المحتوى المرئي المُنتج آليًا بكميات ضخمة يَغمر منصة YouTube Kids؛ إذ إن تكلفة إنتاج هذه الفيديوهات منخفضة، والمحتوى منها عبثي أو بلا معنى، ومع ذلك صُممت الخوارزميات لتظل قادرة على جذب انتباه الأطفال باستمرار و“اختطافه”. وخلصت تحقيقات Fairplay إلى أن إجمالي إيرادات قنوات “القمامة” المُولّدة بالذكاء الاصطناعي الموجهة للأطفال يتجاوز 4.25 مليون دولار سنويًا، في حين أن نسبة 5% فقط تقريبًا من الفيديوهات على YouTube Kids الموجهة للأطفال دون 8 سنوات تُصنّف كمحتوى عالي الجودة.

وقال Rachel Franz، مسؤول مشروع Fairplay، إن المحتوى المُولّد بالذكاء الاصطناعي يُشوّه الواقع ويُحدث حالة من الفوضى، ويؤثر في تطور إدراك الأطفال للعالم، كما أن خوارزميات المنصة تستمر في التوصية بهذا النوع من المحتوى للمستخدمين من ذوي الأعمار الصغيرة، ما يجعله شبه مستحيل تجنّبه. وتطرح هذه الجبهة عدة طلبات لإصلاحات هيكلية، منها: حظر شامل للمحتوى المُولّد بالذكاء الاصطناعي على YouTube Kids، ووضع وسم واضح على مستوى المنصة للفيديوهات المُولّدة بالذكاء الاصطناعي، ومنع الخوارزميات من التوصية بمحتوى ذكاء اصطناعي للمستخدمين دون 18 عامًا، وتوفير مفتاح لمحتوى ذكاء اصطناعي للوالدين يكون مُغلَقًا افتراضيًا، وإيقاف الاستثمار في مشاريع محتوى ذكاء اصطناعي موجهة للأطفال (مثل استوديوهات الترفيه للأطفال Animaj التي يدعمها Google AI Futures Fund).

وردّ متحدث باسم YouTube بأن المنصة تضع معايير صارمة لمحتوى YouTube Kids، وقد قامت بتقييد المحتوى المُولّد بالذكاء الاصطناعي ضمن نطاق محدود من قنوات عالية الجودة، وهي تعمل على تطوير وظيفة وسوم خاصة بالذكاء الاصطناعي، لكنه لم يقدم جدولًا زمنيًا محددًا لإطلاقها. وكان الرئيس التنفيذي لـ YouTube Neal Mohan قد أدرج سابقًا في رسالة عامة سنوية “إدارة القمامة الخاصة بمحتوى الذكاء الاصطناعي” ضمن إحدى أولويات المهام الرئيسية.