شريك YC: بدلاً من التركيز على حجم النموذج، دع الذكاء الاصطناعي يكتب الشفرة ويتطور ذاتيًا مثل العلماء

وفقًا لمراقبة Beating، أشار شريك Y Combinator ديانا هو على تويتر إلى أن المستقبل يتجه نحو بناء طبقة برمجية رقيقة تعتمد على النموذج الأساسي، بدلاً من مجرد توسيع حجم المعلمات، بحيث يمكن للذكاء الاصطناعي أن يكتب قواعد حل المشكلات بنفسه مثل المبرمجين (نموذج العالم القابل للتنفيذ). يمكن للذكاء الاصطناعي اختبار وتعديل وتبسيط الشفرة باستمرار بناءً على نتائج التشغيل، دون الحاجة إلى تعديل مكلف للنموذج الكبير نفسه.

طريق تعلم الشفرة بدون تدرج يُثبت نمط التعلم الاستدلالي الذي اقترحه عضو فريق ما بعد تدريب OpenAI، وانغ جيايي، الشهر الماضي. من أجل تعليم الذكاء الاصطناعي مهمة معينة، يتطلب التعلم المعزز التقليدي آلاف التجارب، حيث يُجبر النموذج على استيعاب الخبرة داخل صندوق أسود من الشبكة العصبية، مما يستهلك الكثير من الطاقة ويعرض للنسيان بسهولة. أما تجربة وانغ جيايي، فهي تعتمد على أن يكتب النموذج الكبير نفسه شفرة بايثون ويبحث عن أخطاء ويعدل القواعد، دون تعديل أي من معلمات النموذج، ونجح في لعب لعبة تيتريز على أتاري. هذا يدل على أن حاملة المعرفة يمكن أن تكون شفرة قابلة للقراءة والاختبار من قبل البشر، بدلاً من أوزان شبكة عصبية غير مفهومة.

في رأي بول غراهام، أحد المؤسسين المشاركين لـ YC، فإن دورة كتابة الشفرة، والتحقق منها، وضغطها، تشبه إلى حد كبير العمل اليومي للعلماء. لا يحتاج النموذج الكبير إلى إعادة بناء الدماغ، بل يجب أن يكون مثل العلماء، يكتب فرضياته باستخدام الشفرة حول بيئة جديدة، ويجري تجارب للتحقق، ويستخلص القواعد الأبسط لحل المشكلات. عملية البحث عن أبسط برنامج تمثل أيضًا المعيار النهائي لكفاءة الذكاء الاصطناعي في إطار ARC-AGI.

أما الميزة الأهم فهي أن التعلم بدون تدرج يمكن أن يستفيد مباشرة من قدرات النموذج الكبير الأساسية. كلما أصبح النموذج الأساسي أكثر ذكاءً، زادت قوة الشفرات والاستراتيجيات التي يكتبها الوكيل الذكي. بناءً على الدرس المأساوي الشهير لريتشارد ساتون، "الدرس المرير"، فإن تعلم الشفرة بدون تدرج يرسم الآن مسارًا جديدًا على شكل منحنى S. مع انفجار قدرات الشفرة للنموذج الكبير، فإن مسار التطور الذاتي للذكاء الاصطناعي يفتح الستار على الجيل القادم من نماذج الذكاء الاصطناعي.