كلود يكتب 80٪ من الشفرة بنفسه، هل تدعو أنثروبيك إلى "آلية توقف عالمية" هل هذا جدي؟

أنثروبيك نشرة 4 يونيو نشرت مقالًا طويلًا بعنوان "عندما يبني الذكاء الاصطناعي نفسه"، وكشفت أن كلاود كتب أكثر من 80٪ من رموز الدمج الخاصة بها، وأن الذكاء الاصطناعي يمكنه التعامل بشكل مستقل مع مهام برمجية تستغرق حتى 12 ساعة، مع زيادة إنتاجية المهندسين بمقدار 8 مرات بحلول عام 2024، ودعت رسميًا إلى إنشاء آلية عالمية لـ"التباطؤ أو الإيقاف المؤقت" للذكاء الاصطناعي.
(ملخص سابق: هل سيكون إصدار أنثروبيك لـ Mythos هو لحظة انفجار في عالم التمويل اللامركزي؟)
(معلومات إضافية: سنوات من العداء: لو لم تكن OpenAI مخادعة، لما كانت أنثروبيك قوية بهذا الشكل)

فهرس المقال

تبديل

• الذكاء الاصطناعي يتطور ذاتيًا
• آخر مرة طالبنا فيها بالإيقاف كانت في 2019 مع GPT-2
• الضمير بعد الاكتتاب العام؟
• مطرقة أسرع، لن تقرر بنفسها ما تدق عليه
• أنثروبيك لا يعتقد أن ذلك سيحدث
• معاهدة الأسلحة النووية لا تنفع في عصر الذكاء الاصطناعي

ملخص النقاط

• كلاود كتب أكثر من 80٪ من رموز الدمج في أنثروبيك، وإنتاجية المهندسين زادت بمقدار 8 مرات كل ربع سنة حتى 2024
• مدة المهام التي يمكن للذكاء الاصطناعي التعامل معها بشكل مستقل زادت من 4 دقائق (مارس 2024) إلى 12 ساعة (مارس 2026)، وفترة التضاعف تقلصت إلى 4 أشهر
• قدمت أنثروبيك في 1 يونيو تقييمًا بقيمة 965 مليار دولار للاكتتاب العام، ودعت في 4 يونيو إلى إنشاء آلية توقف عالمي للذكاء الاصطناعي

في 4 يونيو، نشرت أنثروبيك مقالًا من خمسة آلاف كلمة بعنوان "عندما يبني الذكاء الاصطناعي نفسه". بدايةً، كشفت عن رقم: حتى مايو 2026، كتب كلاود أكثر من 80٪ من رموز الدمج في قاعدة برمجيات أنثروبيك. قبل إطلاق Claude Code في أوائل 2025، كانت النسبة رقمًا فرديًا.

وفي ذات المقال، دعت أيضًا إلى "وجود خيار في العالم لبطء أو إيقاف تطوير الذكاء الاصطناعي المتقدم عند الحاجة".

الذكاء الاصطناعي يتطور ذاتيًا

أوضحت أنثروبيك في المقال أن كلاود لديه قدرة على التحديث الذاتي بشكل تصاعدي.

في مارس 2024، استطاع كلاود أوبس 3 التعامل بشكل مستقل مع مهمة برمجية تستغرق حوالي أربع دقائق لإنجازها بواسطة الإنسان.

في مارس 2025، رفع كلاود سونيت 3.7 هذا الرقم إلى تسعين دقيقة.

وفي مارس 2026، تمكن كلاود أوبس 4.6 من إنجاز المهمة خلال 12 ساعة.

هذا ليس نموًا خطيًا، حيث تقلصت دورة تضاعف مدة المهام من سبعة أشهر إلى أربعة أشهر.

أجرت أنثروبيك استبيانًا داخليًا على 130 من أعضاء فريق البحث، وطلبت منهم تقدير مضاعف الإنتاجية الناتج عن استخدام Mythos Preview، وكانت الوسيلة هي أن المتوسط هو أربعة أضعاف.

ومن ناحية قياس البرمجة، زاد متوسط عدد أسطر الكود المدمجة لكل مهندس في كل ربع سنة من 2024 الثانية إلى 2026 الثانية بمقدار 8 أضعاف. ظل إنتاج الكود ثابتًا تقريبًا بين 2021 و2024، ثم بدأ في الارتفاع الحاد من 2025.

في أبريل 2026، أنجز كلاود بشكل مستقل أكثر من 800 تصحيح خطأ في واجهات برمجة التطبيقات، مما قلل من معدل حدوث نوع معين من الأخطاء بمقدار ألف مرة. قدر مهندس أن العمل نفسه لو تم بواسطة البشر سيستغرق أربع سنوات.

الأرقام من جهة البحث أيضًا مذهلة، حيث استغرق اثنان من الباحثين البشريين أسبوعًا لاستعادة 23٪ من الفارق في الأداء في مسألة أمن الذكاء الاصطناعي. واستخدمت مجموعة وكلاء كلاود 800 ساعة تراكمية من العمل، وبتكلفة حوالي 18,000 دولار من الحوسبة، استعادوا 97٪ من الأداء.

حتى مايو 2026، أصبحت جودة الكود التي يولدها كلاود مساوية لمهندسي البشر. وقالت أنثروبيك: "بحلول نهاية 2025، كان الكود الذي يكتبه كلاود أقل جودة من البشر، والآن أصبح متساويًا، ومن المتوقع أن يتفوق على البشر خلال عام".

آخر مرة طالبنا فيها بالإيقاف كانت في 2019 مع GPT-2

في فبراير 2019، أطلقت OpenAI GPT-2 وأعلنت أنه "خطير جدًا، ولم يتم إصداره بالكامل". النموذج كان يتكون من 1.5 مليار معلمة، وكان قادرًا على كتابة نصف فقرات إنجليزية متماسكة.

بعد سبع سنوات، يُعتبر النموذج الذي كان يُعتقد أنه خطير جدًا، الآن بمثابة وظيفة أساسية في تطبيق مجاني للهاتف المحمول.

كل مرة يطالب مختبر رائد بالتوقف أو التحذير من الخطر، يتضح أمران بعد ذلك: الأول هو أن الخطر حقيقي، والثاني هو أن من يطالب بالإيقاف لا يتوقف فعليًا.

بعد إصدار GPT-2، أطلقت OpenAI النموذج الكامل بعد تسعة أشهر. وفي عام 2023، أعلنت Google أن الذكاء الاصطناعي يحتاج إلى "توقف مسؤول"، وأطلقت خلال أقل من سنة Gemini Ultra.

لكن أنثروبيك قدمت هذه المرة رقمًا محددًا، حيث قال جاك كلارك، أحد المؤسسين المشاركين، إنه يعتقد أن احتمالية تحقيق الذكاء الاصطناعي لعملية تحسين ذاتي متكررة تصل إلى 60٪ قبل نهاية 2028.

الاكتتاب العام بعده: الضمير؟

لم يكن النقاد صريحين، حيث قال الأستاذ نواه جيانسيراكوسا من جامعة بنتلي لـ Scientific American: "لا أعتقد أن أنثروبيك تنوي حقًا إبطاء السرعة." وأشار إلى أن موقف داريو أموديي هو التقدم بسرعة كاملة، لأن "التوقف في الواقع غير ممكن على الإطلاق، احتمالية صفر".

وحتى الآن، النموذج يتطور "ذاتياً"، فلماذا يتوقف؟

قال أستاذ من جامعة جورجيا للتكنولوجيا، مارك ريدل، بشكل أكثر مباشرة، إن جميع الشركات الكبرى في الذكاء الاصطناعي انضمت إلى قطار "تحسين ذاتي متكرر" المبالغ فيه.

وتفسير أكثر حدة هو أنه إذا دعت أنثروبيك إلى إيقاف تطوير الذكاء الاصطناعي المتقدم عالميًا، وإذا نجحت، فإنها ستجمد الوضع التنافسي الذي تتصدره أنثروبيك بالفعل. وهذا إما أن يكون تصرفًا خيرًا مفاجئًا من شركة مدرجة، أو عملية علاقات عامة دقيقة، ونحن نعلم أن الاحتمال الأول منخفض.

مطرقة أسرع، لن تقرر بنفسها ما تدق عليه

قال أستاذ جامعة نيويورك غاري ماركوس، أحد أكثر النقاد صراحة، إن مقاله يمثل "خداعًا" (bait and switch)، حيث يخلط بين شيئين مختلفين تمامًا.

الأول هو الذكاء الاصطناعي العام (AGI)، أي أن الذكاء الاصطناعي يمكنه بشكل مستقل إنجاز كل ما يستطيع الإنسان فعله.
الثاني هو الواقع الحالي، حيث أن الذكاء الاصطناعي هو أداة برمجة سريعة وفعالة، تزيد من إنتاجية المهندسين البشر.

حجة ماركوس هي أن البيانات التي عرضتها أنثروبيك كلها من النوع الثاني. صحيح أن كلاود كتب 80٪ من الكود، لكن تلك النسبة كانت في إطار هدف محدد، وتوجيه، ومراجعة من قبل البشر. هو أداة سريعة جدًا، لكن لا يقرر بنفسه ما يجب أن يبرمجه.

أداة برمجة أسرع لن تدمر العالم.

هل هذا النقد منطقي؟ جزئيًا نعم. تدعم بيانات أنثروبيك وجهة نظر ماركوس أيضًا:
نسبة دقة اختيار "الاتجاه البحثي التالي" من قبل كلاود زادت من 51٪ في نوفمبر 2025 إلى 64٪ في أبريل 2026.
هناك تقدم، لكن 64٪ تعني أن كل ثلاث محاولات، هناك أكثر من واحدة خاطئة.

التحسين الحقيقي في تحسين ذاتي متكرر لا يكمن في كتابة الكود بشكل أسرع، بل في اتخاذ قرارات أفضل حول "ماذا نكتب".
الأول أن كلاود يتفوق على معظم البشر في ذلك، والثاني هو المجال الذي لا تزال فيه للبشر ميزة "أفضلية نسبية".

قال موظف مجهول من أنثروبيك: "الميزة النسبية للبشر الآن هي رؤية الصورة الأكبر، والتفكير فيما يتجاوز نطاق المهمة الحالية."

ومع ذلك، لا نعرف كم ستستمر هذه الميزة.

أنثروبيك لا يعتقد أن ذلك سيحدث

عرضت المقالة ثلاثة سيناريوهات للمستقبل.

السيناريو الأول: توقف التقدم.
قد تكون هناك قيود على الطاقة، والحوسبة، وسلسلة التوريد للرقائق.
قالت أنثروبيك: "نعتقد أن هذا غير مرجح جدًا".

السيناريو الثاني: استمرار زيادة الكفاءة بشكل مركب.
تطوير الذكاء الاصطناعي يتجه نحو أتمتة واسعة، لكن البشر لا زالوا يوجهون البحث.
شركة من 100 شخص تصل إلى تنظيم عمل من 10,000 إلى 100,000.
مراجعة الكود من قبل البشر تصبح عائقًا جديدًا.
قالت أنثروبيك: "ربما نقترب من هذا السيناريو".

السيناريو الثالث: تحسين ذاتي متكرر كامل.
الذكاء الاصطناعي يصمم ويُدرّب جيله التالي بشكل مستقل، والتقدم يعتمد كليًا على القدرة الحاسوبية.
البشر يتحولون إلى مراقبين، ومحققين، وموارد حوكمة.

وصف أنثروبيك مخاطر السيناريو الثالث بدقة:
"الاختلالات في التوافق التي تظهر أحيانًا في النماذج الحالية، قد تصبح أكثر تكرارًا، وأصعب فهمها، مع تحسين ذاتي متكرر."

نحن نفهم أن هذا يعني أن الذكاء الاصطناعي قد يُظهر أحيانًا سلوكًا غير متوافق مع نوايا البشر، لكن يمكننا ملاحظته الآن.
عندما يُحسن الذكاء الاصطناعي نفسه، تتراكم هذه الاختلالات، ويصبح من الصعب علينا فهم أين يذهب.

هذه قد تكون الجملة الأهم في تحسين ذاتي للذكاء الاصطناعي:
"تكرار أكثر، وأصعب فهمًا"،
هل سيتجه الذكاء الاصطناعي نحو الشر للبشر؟

معاهدة الأسلحة النووية لا تنفع في عصر الذكاء الاصطناعي

اقترحت أنثروبيك حلاً يتمثل في "آلية تباطؤ عالمية قابلة للتحقق"، مستوحاة من معاهدة الحد من الأسلحة النووية متوسطة المدى (INF Treaty) خلال الحرب الباردة.

هذا التشبيه يوضح حجم المشكلة، حيث استغرقت مفاوضات وتوقيع المعاهدة حوالي عشر سنوات، وكانت تتعلق بدولتين فقط، ويمكن التحقق منها عبر رصد الأقمار الصناعية لإطلاق الصواريخ.

تدريب نماذج الذكاء الاصطناعي لا يشبه إطلاق الصواريخ، إذ يمكن إنجازه في غرفة مكتبية واحدة، ويمكن أن تكون البنية التحتية للحوسبة عن بعد، مما يصعب اكتشافها.

أضافت أنثروبيك شرطًا رئيسيًا:
"نتوقع أنه عندما يتمكن الآخرون من الوصول إلى تطويرات قابلة للتحقق، سنبطئ أو نوقف مؤقتًا."

يعني ذلك، إذا توقف الجميع، نحن نتوقف.
وإذا استمر أحدهم، نحن أيضًا نستمر.
هذه لعبة استراتيجيات، وفي معركة تطوير الذكاء الاصطناعي، التوازن الحالي هو أن الجميع يواصل، لأنه لا أحد يثق في توقف الآخرين.

طبيعة رأس المال هي التدفق، ولا يوجد رأس مال يتوقف.

الأسئلة الشائعة

ما هو التحسين الذاتي المتكرر (Recursive Self-Improvement)؟
يشير إلى قدرة أنظمة الذكاء الاصطناعي على تصميم وتطوير الجيل التالي بشكل مستقل تمامًا.
أظهرت بيانات أنثروبيك أن كلاود كتب 80٪ من الكود الخاص به، لكنه لا يزال بحاجة إلى توجيه من البشر في تحديد الأهداف، ومراجعة النتائج، ولم يصل بعد إلى مستوى التحسين الذاتي الكامل.
قال جاك كلارك إن الاحتمال أن يتحقق ذلك قبل نهاية 2028 هو 60٪.

ما الدافع وراء دعوة أنثروبيك لتوقف تطوير الذكاء الاصطناعي؟
اقترحت أنثروبيك إنشاء "آلية تباطؤ قابلة للتحقق" مشابهة لمعاهدة الأسلحة النووية، بشرط أن يلتزم الآخرون أيضًا.
لكن النقاد قالوا إن هذا الدعوة تأتي بعد ثلاثة أيام فقط من طلب الاكتتاب العام بقيمة 965 مليار دولار، ويشككون في أن الهدف هو إيقاف المنافسة أكثر من ضمان السلامة.