بي بي سي نيوز - أظهر التقرير الفني لـ Gemma 4 الذي أصدرته Google مؤخرًا كيفية استخدام بنية بسيطة للغاية لجعل النماذج الكبيرة تعمل بشكل أسرع على الهواتف والأجهزة الطرفية، مع توفير المزيد من الذاكرة. لأول مرة، يحقق نموذج Gemma 4 12B تكاملًا بسيطًا للغاية "بدون مشفر" للنمط المزدوج البصري والصوتي، مما يقلل من حجم المترجم البصري بنسبة 93% ويلغي المترجم الصوتي تمامًا، مما يحل مشكلة هدر الذاكرة الناتجة عن "المترجم الخارجي". بالإضافة إلى ذلك، عند معالجة النصوص الطويلة، يقلل النموذج من استهلاك الذاكرة بنسبة 37.5% من خلال إعادة استخدام الانتباه العام. كما يعمل مسرع التنبؤ في الإصدار الخفيف للجهاز الطرفي على تقليل نطاق القاموس من 260 ألفًا إلى 4096، مما يحسن سرعة فك التشفير بشكل كبير.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 5
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
MultisigOnRocks
· منذ 3 س
إذا تم بالفعل تشغيل بنية بدون تشفير، فسيكون بإمكان النماذج الصغيرة أيضًا تشغيل الوسائط المتعددة محليًا في المستقبل.
شاهد النسخة الأصليةرد0
AirdropTaxPanic
· منذ 7 س
تحسينات جوجل للجهاز المحلي تمهد الطريق لذكاء اصطناعي في الهواتف، وضغط على أبل.
شاهد النسخة الأصليةرد0
DepegDaydream
· منذ 7 س
من المثير للاهتمام أن جدول الكلمات 4096 يحسن سرعة فك التشفير، لكن هل سيضحي بتغطية متعددة اللغات؟
شاهد النسخة الأصليةرد0
GateUser-f78f1f3e
· منذ 7 س
إزالة 93% من المترجم البصري وعدم الحاجة إلى مشفر صوتي، هذه القوة في التخسيف أشد مني.
شاهد النسخة الأصليةرد0
LimitOrderMonk
· منذ 7 س
إعادة استخدام الانتباه الشامل يوفر 37.5% من الذاكرة، وأخيرًا لا داعي لانفجار الذاكرة في النصوص الطويلة.
شاهد النسخة الأصليةرد0
  • مُثبت