يحذّر كبير العلماء في OpenAI من اقتراب التحسين الذاتي التكراري (RSI)، ويدعو إلى إبطاء تطوير AI.
قال كبير العلماء في OpenAI، جاكوب باتشوكي، الذي نشر مؤخراً مقالاً مطولاً بعنوان «عقل فضائي»، إن الذكاء الاصطناعي قد يكون خاضعاً بالفعل للتحسين الذاتي التكراري (RSI)، وإن البشرية غير مستعدة لذلك. وحذّر باتشوكي من أن نماذج الذكاء الاصطناعي، مثل Astra، تزداد قدرةً على الاستدلال والخداع، في حين تتدهور القدرة على مراقبة سلاسل تفكيرها، وهي آلية أمان رئيسية. وأشار إلى أن أنظمة الذكاء الاصطناعي لم تعد تعتمد كلياً على عمليات تفكير يمكن التعبير عنها لفظياً لإظهار ذكائها، ما يجعل الإشراف البشري أكثر صعوبة.
GateNews·09-08 04:17
