حثت شركة ميتا على تعزيز الرقابة على الفيديوهات المزيفة التي تستخدم الذكاء الاصطناعي

قبل 9 ساعات

مشاركة حفظ

كاتي هايس، مراسلة تكنولوجيا

مشاركة حفظ

رويترز

قال مستشارو شركة ميتا إن على الشركة أن تفعل المزيد لمعالجة “انتشار” المحتوى المزيف الذي يُنتج باستخدام أدوات الذكاء الاصطناعي على منصاتها.

رفع مجلس الرقابة المكون من 21 عضوًا مخاوفه عندما وجه انتقادًا للشركة لتركها فيديو مولد بواسطة الذكاء الاصطناعي يزعم إظهار أضرار واسعة في حيفا، إسرائيل، من قبل قوات إيرانية دون تصنيف.

ودعا المجلس الشركة إلى إعادة هيكلة قواعدها الخاصة بالذكاء الاصطناعي، محذرًا من أن زيادة الفيديوهات المزيفة المتعلقة بالصراعات العسكرية العالمية قد “تحدت قدرة الجمهور على التمييز بين التزييف والحقيقة… مما يعرض الثقة العامة في جميع المعلومات للخطر.”

قالت ميتا إنها ستضع علامة على الفيديو المعني خلال سبعة أيام.

أطلقت ميتا مجلس الرقابة في عام 2020 كمجموعة شبه مستقلة توفر إشرافًا على قرارات مراقبة المحتوى عبر منصاتها، والتي تشمل فيسبوك، إنستغرام، وواتساب.

غالبًا ما تختلف مع قرارات ميتا، لكن الشركة استمرت في تخفيف نهجها في مراقبة المحتوى، مما أثار تساؤلات حول مدى السلطة التي يمتلكها المجلس فعليًا.

قال المجلس إن تعامل الشركة مع فيديو حيفا أثار قضايا كانت قد أبلغت عنها سابقًا حول “عدم الكفاءة في النهج الحالي لميتيا خلال الصراعات المسلحة”.

حاليًا، تعتمد ميتا بشكل كبير على المستخدمين لـ"الإبلاغ الذاتي" عندما يكون المحتوى الذي ينشرونه من إنتاج أداة ذكاء اصطناعي. وإلا، فهي تنتظر أن يشتكي شخص ما إلى فريق مراقبة المحتوى، الذي قد يقرر بعد ذلك وضع علامة على شيء معين.

قال المجلس إن على الشركة أن تكون أكثر استباقية في وضع علامات على المحتوى المزيف الذي يُنتج بواسطة الذكاء الاصطناعي “بتكرار أكبر بكثير”.

وأضاف أن الطرق الحالية للشركة “ليست قوية ولا شاملة بما يكفي لمواجهة حجم وسرعة المحتوى المولد بواسطة الذكاء الاصطناعي، خاصة خلال الأزمات أو الصراعات حيث يكون التفاعل على المنصة مرتفعًا”.

أثار مراجعة المجلس للمسألة فيديو نُشر في يونيو الماضي بواسطة حساب فيسبوك مقره الفلبين، يصف نفسه كمصدر أخبار.

كان هذا أحد سلسلة الفيديوهات المزيفة التي نشرت على وسائل التواصل الاجتماعي بعد بدء الصراع، حيث كانت المحتويات إما مؤيدة لإسرائيل أو لإيران، والتي جمعت بسرعة ما لا يقل عن 100 مليون مشاهدة، وفقًا لتحليل بي بي سي في ذلك الوقت.

على الرغم من أن الفيديو كان مولدًا بواسطة الذكاء الاصطناعي ويظهر محتوى غير حقيقي، وتلقي الشركة عدة شكاوى من المستخدمين بشأنه، إلا أن ميتا لم تضع علامة على الفيديو بأنه مولد بالذكاء الاصطناعي أو تزيله.

لم ترد الشركة حتى تقدم أحد مستخدمي فيسبوك مباشرة إلى مجلس الرقابة، وتولى المجلس القضية، حسبما ذكر المجلس.

ثم ادعت الشركة أن الفيديو، الذي حقق ما يقرب من مليون مشاهدة، لا يتطلب أي نوع من العلامات ولا يحتاج إلى إزالته لأنه لم “يساهم مباشرة في خطر حدوث ضرر جسدي وشيك”.

قال المجلس يوم الثلاثاء إن هذا معيار مرتفع جدًا لوضع علامات على المحتوى المولد بالذكاء الاصطناعي، خاصة عندما يكون الموضوع هو الصراع المسلح، وقرّر أن الفيديو كان يجب أن يُمنح “علامة عالية المخاطر للذكاء الاصطناعي”.

“يجب على ميتا أن تفعل المزيد لمعالجة انتشار المحتوى المضلل المولد بالذكاء الاصطناعي على منصاتها… حتى يتمكن المستخدمون من التمييز بين الحقيقي والمزيف”، قال.

وفي بيانه، قالت ميتا إنها ستلتزم باقتراحات المجلس في المرة القادمة التي تواجه فيها محتوى “متماثل” وهو “نفس السياق” للفيديو الذي راجعه المجلس.

جهات تنظيمية تتواصل مع ميتا بشأن مشاهدة العمال لمقاطع فيديو نظارات الذكاء الاصطناعي الحميمة

كشف عن “مزارع محتوى” خارجية تخلق فيديوهات عميقة سياسية

زوكربيرج يدافع عن ميتا في محاكمة تاريخية حول إدمان وسائل التواصل الاجتماعي

وسائل التواصل الاجتماعي

إسرائيل

الذكاء الاصطناعي

الدعاية

ميتا

مارك زوكربيرج

فيسبوك