تيثر آي أعلنت أنها ستدمج المصدر المفتوح TurboQuant في SDK 0.12.0 من QVAC. تم اقتراح TurboQuant في الأصل من قبل Google Research، ويمكنه ضغط ذاكرة تخزين KV Cache اللازمة لتشغيل النماذج الكبيرة بأقصى قدر يصل إلى 5 مرات، مما يدعم سياقات أطول، ومستندات أكبر، ومحادثات أطول زمنياً على الأجهزة المحلية. وأكدت تيثر أن هذه التقنية ستُستخدم في أجهزة الكمبيوتر المحمولة، والهواتف المحمولة، والأجهزة الطرفية، وشبكات الذكاء الاصطناعي اللامركزية، وكجزء من استراتيجيتها لتعزيز الذكاء الاصطناعي المحلي واللامركزي.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت