جوجل تطلق التنبؤ بالرموز المتعددة على Pixel 9 و10، مما يعزز سرعة استدلال Gemini Nano بأكثر من 50%
وفقًا لـ Beating، نشرت جوجل بنية التنبؤ متعدد الرموز (MTP) على أجهزة Pixel 9 و Pixel 10، مما أدى إلى تسريع نموذج Gemini Nano v3 الموجود على الجهاز بشكل كبير. زادت البنية الجديدة سرعة الاستدلال بأكثر من 50% مع الحفاظ على توافق السلامة وجودة المخرجات للنموذج. تتيح آلية عدم النسخ لرأس التنبؤ إعادة استخدام الميزات المخزنة مؤقتًا للنموذج الرئيسي مباشرةً من خلال الانتباه المتقاطع، مما يلغي حمل ذاكرة التخزين المؤقت للمفاتيح والقيم المنفصلة في النماذج الأولية التقليدية. وفر هذا التصميم حوالي 130 ميجاباي
GateNews·06-28 02:53
