Tinygrad تقول إن GLM5.2 يمكنه تشغيل 120 توكن/ثانية في تكوين Blackwell المربوط بجهازين، بسعر 150,000 دولار

موجز BlockBeats، 21 يونيو، ذكر بائع وحدات معالجة الرسومات Tinygrad في منشور أن، وفقًا لمصادر موثوقة، يمكن لنموذج GLM 5.2 على اثنين من أجهزة Blackwell المتصلة بالشبكة على شكل tinybox أن يحقق سرعة استنتاج تبلغ 120 رمزًا في الثانية.

سعر هذا التكوين 150,000 دولار، ويمكن اختيار جهازين من نوع tinybox القياسي أو جهاز tinybox Pro واحد، وكلاهما يمكن أن يحقق الأداء المذكور أعلاه. يستخدم Tinygrad هذا كميزة بيع، ويقدم استراتيجية نشر خاصة، "شراء مرة واحدة، وعدم دفع رسوم السحابة أبدًا"، مباشرة لمنافسة خدمات الاستنتاج السحابية التي تعتمد على الدفع حسب الاستخدام.

حتى الآن، لم يتم تأكيد هذا الخبر من قبل GLM الرسمي، ولم تكشف Tinygrad عن مزيد من التفاصيل التقنية.

انقر على الرابط الأصلي أدناه للانضمام إلى قناة أخبار الذكاء الاصطناعي من 动察 Beating · Feishu، لمراقبة أخبار ومواضيع الذكاء الاصطناعي العالمية على مدار 24 ساعة.