لا تزال النماذج الكبيرة تتنافس على المعلمات، لكن الشيء الذي بدأ فعلاً يحدد سقف الصناعة هو تخزين السياق.

عندما تتغير طول الاستدلال، وسلسلة استدعاء الوكيل، والذاكرة طويلة المدى، فإن العامل الحقيقي الذي يحدد التجربة والتكلفة ليس فقط القدرة الحسابية، بل هو "هل يمكن قراءة وكتابة وتوجيه وإعادة استخدام السياق بكفاءة". ولهذا السبب، بدأ السوق مؤخرًا يركز على بنية تحتية مثل ذاكرة السياق، وذاكرة KV، وتخزين الاستدلالات بشكل هرمي.
في المرحلة القادمة من منافسة الذكاء الاصطناعي، قد يكون التحدي ليس في من يستطيع توليد المزيد من المحتوى، بل في من يمكنه جعل النموذج يعمل بشكل مستمر ومستقر وبتكلفة منخفضة في المهام الأطول.
إذا كانت فترة التدريب تتنافس فيها على GPU، فإن عصر الوكيل (Agent) يتنافس فيه على الذاكرة.
وهذا هو السبب في أنني ناقشت في مجموعة مع الأصدقاء لماذا يستحق الكركند اللعب، وقلت إن كود كلود موجه خصيصًا للكركند. لكنهم قالوا إن مسألة السياق الكامل، لم أجد جوابًا لها، فبقيت أعمل بجد وأعتني بالكركند.