لماذا يستمر الوصول إلى المحتوى الضار للأطفال عبر الإنترنت وما علاقة الإعلانات به

(منفعتن - The Conversation) يمكن للأطفال اليوم أن يواجهوا مواد ضارة على الإنترنت بسهولة مقلقة، بما في ذلك المحتوى العنيف والجنساني ومواد إيذاء النفس. وعلى الرغم من أن هذا يُعامل غالبًا كفشل في الرقابة، إلا أن السبب الأعمق هو اقتصادي.

يعتمد جزء كبير من الإنترنت على نموذج أعمال يكافئ الانتباه فوق كل شيء آخر. ببساطة، الخوارزميات التي توصي بالمحتوى لا تميز بشكل جوهري بين المحتوى المفيد والحيادي والضار. وتوصف بأنها “غير متخصصة في الموضوع”، ومهمتها الأساسية هي إبقاء المستخدمين يشاهدون، يتصفحون وينقرون.

لماذا؟ لأن الانتباه يقود إيرادات الإعلانات.

تبدو معظم المنصات على الإنترنت مجانية للاستخدام، لكنها في الغالب تمول من خلال الإعلانات. كلما بقي المستخدمون أطول على الإنترنت، زادت الإعلانات التي يرونها وأصبحت أكثر قيمة للمعلنين. ونتيجة لذلك، يتشكل تصميم المنصات وفقًا لما يسميه الباحثون “اقتصاد الانتباه” – وهو نظام يُشترى ويُباع فيه انتباه الإنسان كمورد.

تصف الباحثة في هارفارد، شوشانا زوبوف، هذا النموذج بأنه “رأسمالية المراقبة”: تجمع المنصات بيانات السلوك، وتتوقع ما سيفعله المستخدمون بعد ذلك، وتحسن الأنظمة للتأثير على السلوك بطرق تولد أرباحًا.

وهذا مهم لأن الأبحاث تظهر باستمرار أن المحتوى العاطفي – المحتوى الذي يثير الخوف، الغضب، القلق أو الصدمة – يحقق تفاعلًا أعلى. وجدت دراسات أنظمة التوصية أن التصنيف الخوارزمي يميل إلى تضخيم المحتوى الذي يبقي المستخدمين نشطين عاطفيًا، بغض النظر عن قيمته الاجتماعية (أو غير ذلك).

بالنسبة للبالغين، يمكن أن يشوه ذلك النقاش العام والخطاب السياسي. أما بالنسبة للأطفال، فإن العواقب قد تكون أكثر خطورة لأن عاداتهم على الإنترنت واستجاباتهم العاطفية لا تزال في طور التطور. الشباب أكثر حساسية للمقارنات الاجتماعية، والقصص المزعجة، والمحتوى العاطفي المكثف. عندما تكتشف أنظمة التوصية أن المستخدم الشاب يوقف عند، يبحث عن أو يتفاعل مع مثل هذا المحتوى، غالبًا ما ترد بتقديم المزيد منه.

النتيجة هي ما يصفه الباحثون في وسائل الإعلام بأنه حلقة تغذية مرتدة. إشارات التفاعل تدفع التوصيات؛ التوصيات تزيد من التعرض؛ والتعرض يعمق التفاعل. نادرًا ما يتم استهداف المستخدمين بواسطة شخص، بل يتم استهدافهم بواسطة التحسين.

غالبًا ما يفترض النقاش العام أن الحل هو إزالة المنشورات الضارة بسرعة أكبر. الرقابة مهمة، لكن هناك مشكلة أعمق. يستمر انتشار المحتوى الضار لأن الحوافز الأساسية لا تتغير.

إذا كان دخل المنصة يعتمد على الانتباه، فستظل الأنظمة دائمًا تفضل المحتوى الذي يجذب الانتباه بشكل أكثر فاعلية. إزالة منشورات فردية لا تفيد كثيرًا إذا ظل المنطق الخوارزمي الذي يعزز التفاعل قائمًا.

هذا يفسر لماذا تستمر الجدل حول الأضرار على الإنترنت في الظهور رغم وجود أدوات وسياسات سلامة جديدة – ولماذا من غير المرجح أن تحل حظر وسائل التواصل الاجتماعي المقترح المشكلة الجذرية. يزداد الباحثون في حوكمة المنصات تأكيدًا على أن السلامة تتطلب معالجة تصميم النظام والحوافز، وليس فقط المحتوى الفردي.

دور الإعلان – ولماذا يهم الآن

نادراً ما يُذكر الإعلان في النقاشات العامة حول السلامة على الإنترنت، لكنه يقف في مركز النظام البيئي. تمول إيرادات الإعلانات أنظمة التوصية، وممارسات جمع البيانات، واستراتيجيات تحسين التفاعل.

هذا لا يعني أن المعلنين يقصدون الضرر. في الواقع، العديد من العلامات التجارية غير مدركة لمكان ظهور إعلاناتها ضمن سلاسل الإعلانات البرمجية المعقدة. لكن الواقع الاقتصادي يبقى: التفاعل – بما في ذلك التفاعل مع المحتوى الضار – يخلق قيمة.

يزداد التدقيق. في المملكة المتحدة، يقوم المنظمون بتنفيذ قانون السلامة على الإنترنت، وتظهر دعاوى قضائية تتعلق بأضرار وسائل التواصل الاجتماعي على الصعيد الدولي، ويصل الباحثون إلى وثائق داخلية للمنصات من خلال التقاضي. معًا، ترفع هذه التطورات ما يُوصف منذ فترة طويلة بأنه “صندوق أسود” يحيط باتخاذ قرارات المنصات.

لم يتطور البيئة الرقمية بشكل طبيعي. بل بُنيت من خلال خيارات – تقنية، واقتصادية وسياسية – اتُخذت على مدى عقود. وبما أنها مصممة، فهي قابلة لإعادة التصميم.

المحادثة التي تنتقل الآن إلى العلن ليست مجرد حظر الهواتف أو لوم المستخدمين الصغار. إنها تتعلق بالحوافز. ما أنواع البيئات على الإنترنت التي تكافئها نماذج الأعمال الحالية؟ وما البدائل التي قد تعطي الأولوية للرفاهية إلى جانب الابتكار؟

بالنسبة للأشخاص العاملين في صناعات الإعلان والتكنولوجيا، قد يكون هذا اللحظة مهمة بشكل خاص. الوعي العام الأكبر يعني فرصًا أقل للادعاء بأن الأنظمة على الإنترنت معقدة جدًا للفهم أو التأثير عليها.

إذا كانت الأمان الرقمي هو الهدف، يجب أن يتجاوز النقاش المحتوى الفردي نحو الهياكل التي تحدد سبب انتشار ذلك المحتوى في المقام الأول. فهم كيف تتفاعل الإعلانات والبيانات والخوارزميات ليس تفصيلًا تقنيًا فحسب، بل هو المفتاح لبناء إنترنت يحمي الأطفال بدلاً من أن يربح من انتباههم.