أخبار ME News، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية الفصل بين التهيئة المسبقة (Prefill) وعميلة فك التشفير (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. وفقًا للرأي في النص، من المتوقع أن يقلل هذا بشكل كبير من تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية معوقة بسبب مشكلة استهلاك النطاق الترددي لتخزين KV. يعتمد هذا الإنجاز على نموذجها المختلط Kimi Linear. (المصدر: InFoQ)

شاهد النسخة الأصلية

قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

تسجيلات الإعجاب 10

أعجبني
10
10
2
مشاركة

تعليق

إضافة تعليق

GateUser-ad8b77bd

· منذ 10 س

من مجموعة واحدة إلى مراكز بيانات متعددة، فإن صعوبة الهندسة ليست من نفس المستوى

شاهد النسخة الأصليةرد0

CheckTheBlockchainBefore

· منذ 20 س

كيف يتم المزج في النموذج المختلط تحديدًا؟ هل هو MOE أم بنية أخرى؟

شاهد النسخة الأصليةرد0

FeeTakerPhD

· منذ 21 س

أخيرًا تم الانتظار لنشر عبر مراكز البيانات، هل يمكن حقًا خفض التكاليف بعد اجتياز مرحلة نقل ذاكرة التخزين المؤقت KV

شاهد النسخة الأصليةرد0

PopFruitCollage

· منذ 21 س

مركز بيانات متعدد + غير متجانس، هل ستتفجر تعقيدات الصيانة والإدارة؟

شاهد النسخة الأصليةرد0

ExitLiqNow

· منذ 21 س

سابقًا كانت عملية نقل ذاكرة التخزين المؤقت KV، الآن تم تحقيق إنجاز هام

شاهد النسخة الأصليةرد0

OwlAuthorizationMonitor

· منذ 21 س

كل رمز مميز أرخص قليلاً، والكميات الكبيرة تعني ذهبًا وفضة حقيقية

شاهد النسخة الأصليةرد0

TheStoneBehindTheVolcano

· منذ 21 س

Moonshot هذه الموجة من الديون التقنية لا تزال رائعة

شاهد النسخة الأصليةرد0

ButterStop-LossLine

· منذ 21 س

خفض التكاليف هو الحقيقة الصلبة، انتظر البيانات الفعلية

شاهد النسخة الأصليةرد0

LatencyLullaby

· منذ 21 س

هل ستؤدي عملية الإعداد المسبق والفصل إلى زيادة التأخير بدلاً من تقليله؟

شاهد النسخة الأصليةرد0

MechanicalHummingbirdGlass

· منذ 21 س

نموذج Kimi المختلط لديه بعض القوة، يمكنه التشغيل على أجهزة غير متجانسة

شاهد النسخة الأصليةرد0

عرض المزيد

المواضيع الرائجة
عرض المزيد
#
WinGoldBarsWithGrowthPoints
1.23M درجة الشعبية
#
WTICrudeFallsBelow90Dollars
1.19M درجة الشعبية
#
IsraelStrikesIranBTCPlunges
51.51K درجة الشعبية
#
StockTradingChallengeUpTo17000U
196.77K درجة الشعبية
#
USIranNegotiationGame
9.42M درجة الشعبية

مُثبت

خريطة الموقع

Moonshot AI يوسع تقنية فصل التهيئة/التحليل المسبق لتشمل مراكز البيانات عبر البيانات ومكونات الأجهزة غير المتجانسة

المواضيع الرائجة

WinGoldBarsWithGrowthPoints

WTICrudeFallsBelow90Dollars

IsraelStrikesIranBTCPlunges

StockTradingChallengeUpTo17000U

USIranNegotiationGame

مُثبت