وضع نموذج كثيف بحجم 27 مليار معلمة في الجيب، هذه نسبة الضغط المجنونة، هل أخيرًا لم تستطع أبل الصمود؟

ذكر موقع بين جي وانغ أن PrismML أعلنت عن ضغط النموذج مفتوح المصدر Qwen3.6-27B من علي إلى حوالي 4 جيجابايت، ونجحت في تشغيله على iPhone 17 Pro. Qwen3.6-27B هو نموذج كثيف يضم 27 مليار معلمة، حيث تشارك جميع المعلمات في الحساب أثناء الاستدلال، وليس نموذج MOE الذي ينشط جزءًا فقط من المعلمات. وقالت PrismML إن حجم النموذج تم ضغطه من حوالي 54 جيجابايت إلى أقل من 4 جيجابايت، دون انخفاض ملحوظ في الأداء، وهو مناسب للمهام المعقدة مثل الحوار والاستدلال ومهام agent والبرمجة. وقد تواصلت شركة أبل مع PrismML لمناقشة كيفية تطبيق هذه التقنية على أجهزتها، على الرغم من أن Siri المتقدم لا يزال يعتمد على النماذج السحابية.