تم أخيرًا التغلب على عنق الزجاجة في ذاكرة الاستدلال عبر الإنترنت، وذكّرني أسلوب التخزين التدريجي بـ git diff، حيث يتم استبدال المساحة بالفارق المعلوماتي، ذكي.

أبحاث تقدم Δ-Mem، نظام ذاكرة عبر الإنترنت موجه لنماذج اللغة الكبيرة. من خلال تخزين التغييرات التدريجية فقط المرتبطة بالتنشيط وتحديثها، والتخلي عن الحالة الكاملة للتنشيط، يقلل بشكل كبير من استهلاك الذاكرة. أظهرت التجارب أن استهلاك الذاكرة يمكن أن ينخفض بنسبة تصل إلى 70٪، مع الحفاظ على جودة الإخراج بشكل أساسي دون خسارة، مما يعزز قدرات الاستدلال عبر الإنترنت والتعلم المستمر في البيئات ذات الموارد المحدودة.