توقف OpenAI عن طرح ميزة الدردشة للبالغين بسبب فشل التحقق من العمر

أوقفت OpenAI إطلاق ميزة الدردشة للبالغين في ChatGPT، مشيرة إلى عيوب خطيرة في تقنية توقع العمر. وفقًا لبيانات من NS3.AI، فإن عدم قدرة النظام على التمييز بدقة بين القُصّر والبالغين أثبت أنه أكثر إشكالية مما كان متوقعًا في البداية، حيث تم تحديد المراهقين كبالغين تقريبًا بنسبة 12% من الوقت. وقد أثار معدل الفشل هذا علامات حمراء فورية بشأن تداعيات أمان هذه الميزة على المستخدمين الأصغر سنًا.

تحدي التحقق من العمر

تدور القضية الأساسية حول القيود التقنية لخوارزميات توقع العمر. عند نشر ميزات مصممة خصيصًا للمستخدمين البالغين، يصبح التحقق الدقيق من العمر أمرًا بالغ الأهمية. يعني معدل الخطأ الذي اكتشفه محللو الأمن بنسبة 12% أن آلاف المستخدمين القُصّر قد يتمكنون من تجاوز الحواجز المصممة لحمايتهم. وقد أشار مجلس الخبراء في OpenAI حول الرفاهية والذكاء الاصطناعي رسميًا إلى هذه المخاوف في يناير، محذرًا من أن ميزة الدردشة للبالغين قد تعرض الفئات الضعيفة لمحتوى أو تفاعلات غير مناسبة.

الحماية من الأضرار المحتملة

بدلاً من إطلاق منتج معيب، اختارت OpenAI نهجًا حذرًا - حيث قامت بتعليق مبادرة الدردشة للبالغين مؤقتًا حتى يتحسن التكنولوجيا. تؤكد هذه القرار على التزام الشركة بنشر الذكاء الاصطناعي بطريقة مسؤولة وحماية المستخدمين. تعكس هذه الاختيار اعترافًا أوسع في الصناعة بأن التحرك بسرعة مع ميزات الذكاء الاصطناعي يمكن أن يحمل مخاطر كبيرة، خاصة عندما يكون القُصّر involved. من خلال تأخير الإطلاق، تعطي OpenAI الأولوية للنزاهة على السرعة، مما يضمن أن أي تنفيذ مستقبلي للدردشة للبالغين سيكون لديه آليات تحقق من العمر أكثر قوة.