تم أخيرًا كسر عنق الزجاجة في ذاكرة استنتاجات النموذج اللغوي الكبير من خلال نهج الزيادة، ويمكن الآن أن يعمل في سيناريوهات التعلم عبر الإنترنت بشكل أخف.

أبحاث تقدم Δ-Mem، نظام ذاكرة عبر الإنترنت موجه لنماذج اللغة الكبيرة. من خلال تخزين التغييرات التزايدية فقط المرتبطة بالتنشيط وتحديثها، والتخلي عن الحالة الكاملة للتنشيط، يقلل بشكل كبير من استهلاك الذاكرة. أظهرت التجارب أن استهلاك الذاكرة يمكن أن ينخفض بنسبة تصل إلى 70٪، مع الحفاظ على جودة الإخراج تقريبًا دون خسارة، مما يعزز قدرات الاستدلال عبر الإنترنت والتعلم المستمر في بيئات محدودة الموارد.