مؤخرًا رأيت تقريرًا يستحق الاهتمام، حيث أطلقت OpenAI ما يُعرف بـ "خطة السلامة للأطفال"، والتي تركز بشكل رئيسي على التعامل مع مشكلة المحتوى الخاص بالإساءة للأطفال الناتج عن الذكاء الاصطناعي. بصراحة، أصبح هذا الموضوع أكثر حدة بشكل متزايد.

وفقًا لبيانات مؤسسة مراقبة الإنترنت، تم الكشف عن أكثر من 8,000 تقرير عن محتوى إساءة للأطفال مولد بواسطة الذكاء الاصطناعي في النصف الأول من عام 2025 فقط، بزيادة قدرها 14% عن العام السابق. تشمل هذه الحالات استخدام أدوات الذكاء الاصطناعي لصنع صور فاضحة مزيفة للابتزاز، أو توليد رسائل تُستخدم لخداع القُصّر. الأرقام في تزايد مستمر، والمشكلة التي تعكسها هذه الأرقام خطيرة جدًا.

ومن المثير للاهتمام أن خطوة OpenAI هذه بدت وكأنها نتيجة لضغوط خارجية. ففي نوفمبر من العام الماضي، رفعت سبع دعاوى قضائية في محكمة كاليفورنيا تتهم GPT-4 من OpenAI بوجود وظائف للتحكم النفسي، مما أدى إلى حالات انتحار بين المراهقين. وأورد المدعون حالات لأربعة أشخاص توفوا وخمسة يعانون من هلاوس شديدة. تحت ضغط الرأي العام، بدأوا يأخذون هذه المشكلة على محمل الجد.

الإطار الجديد للخطة يركز بشكل رئيسي على ثلاثة اتجاهات: الأول هو تحديث القوانين لمواجهة المحتوى المُنتج أو المُ manipulated بواسطة الذكاء الاصطناعي الخاص بإساءة الأطفال؛ الثاني هو تحسين آليات الإبلاغ والتنسيق بين مقدمي الخدمات؛ الثالث هو دمج تصميمات الأمان مباشرة في أنظمة الذكاء الاصطناعي لمنع واكتشاف سوء الاستخدام. كما تعاونوا مع المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، والسلطات القانونية، والمنظمات غير الربحية مثل Thorn.

ومع ذلك، تعترف OpenAI أن لا طريقة واحدة يمكنها حل هذا التحدي بالكامل. الهدف من الإطار هو تسريع الاستجابة، وتحسين التعرف على المخاطر، والحفاظ على المساءلة، مع تمكين الجهات القانونية من مواكبة التقدم التكنولوجي. بالإضافة إلى ذلك، قاموا بتحديث إرشادات المستخدمين تحت سن 18 عامًا، لمنع توليد محتوى غير لائق ونصائح عن الإيذاء الذاتي.

باختصار، يعكس هذا الوضع الأزمة التي تواجهها الصناعة بأكملها الآن. مع انتشار تقنيات الذكاء الاصطناعي، تتطور طرق إساءة معاملة الأطفال أيضًا. كيف نحقق التوازن بين الابتكار والحماية، هو التحدي الحقيقي الذي تواجهه جميع شركات التكنولوجيا.