أوبن إيه آي تؤجل ميزة الدردشة للبالغين بسبب فشل نظام التنبؤ بالعمر في اجتياز اختبارات الدقة

أعلنت OpenAI عن تأخير كبير في طرح ميزة الدردشة الخاصة بالبالغين في ChatGPT، وذلك بعد مخاوف حاسمة بشأن موثوقية تقنية التحقق من العمر. ووفقًا لبيانات من NS3.AI، فشل آلية التنبؤ بالعمر في تحديد المستخدمين بشكل صحيح، إذ صنّفت المراهقين خطأً على أنهم بالغون في حوالي 12% من الحالات—وهي نسبة خطأ مرتفعة تثير أسئلة جدية حول سلامة المستخدمين وتدابير حماية المحتوى.

عيوب حرجة في تقنية التنبؤ بالعمر

يمثل قرار إرجاء ميزة الدردشة الخاصة بالبالغين تحوّلًا كبيرًا بالنسبة لـ OpenAI بعد التحذيرات الرسمية الصادرة عن مجلس الخبراء المعني بالرفاهية والذكاء الاصطناعي التابع للشركة في يناير. وقد أشار المجلس على وجه التحديد إلى ثغرات محتملة قد تؤثر بشكل غير متناسب على المستخدمين الأصغر سنًا وعلى الأشخاص من المجتمعات المهمشة. ومع وصول معدلات الخطأ إلى رقمين، يوضح نظام التنبؤ بالعمر أنه يواجه تحديات تقنية كبيرة تتطلب المعالجة قبل النشر.

استراتيجية السلامة أولاً وانعكاسات على الصناعة

يُبرز هذا الإرجاء التزام OpenAI بإعطاء الأولوية لحماية المستخدمين بدلًا من الإطلاق السريع للميزات. وتعكس قرارات الشركة إدراكًا أوسع على مستوى الصناعة بأن نشر ميزات مقيّدة المحتوى دون آليات سلامة قوية قد يؤدي إلى عواقب غير مقصودة. ومن خلال تأخير طرح الدردشة الخاصة بالبالغين، تضع OpenAI سابقة لكيفية تعامل شركات الذكاء الاصطناعي مع الميزات الحساسة أخلاقيًا—مع ضمان أن أنظمة التحقق من العمر تلبي معايير دقة صارمة قبل أن تؤثر في مستخدمين حقيقيين.

كما يسلط الإرجاء الضوء على التعقيد التقني الكامن في بناء أنظمة ذكاء اصطناعي موثوقة، خصوصًا عند محاولة إجراء تمييزات دقيقة حول فئات المستخدمين بناءً على معلومات محدودة. ومع استمرار OpenAI في تحسين نهجها تجاه الدردشة الخاصة بالبالغين، ستراقب الصناعة لمعرفة ما إذا كانت التكنولوجيا المحسّنة قادرة على معالجة مشكلات الدقة الأساسية هذه.