恭喜研究團隊推進 DeepSeek V3/R1 推理。



在NVIDIA GB200 NVL72上,他們實現了每個GPU 26k輸入tokens/s和13k輸出tokens/s的性能——相比H100,速度提升近4×/5×。

他們通過 NVFP4 MoE、FP8 注意力和縮減專家並行性實現了這一目標。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 7
  • 轉發
  • 分享
留言
0/400
MEV受害者互助会vip
· 15小時前
4倍提升太猛了吧
回復0
shadowy_supercodervip
· 15小時前
這也太卷了吧
查看原文回復0
DeFi老顽童vip
· 15小時前
老頭子見慣大風大浪 GPU也能一秒起飛咯
查看原文回復0
DAO Therapyvip
· 15小時前
又是科技革新的一哆嗦
回復0
MerkleDreamervip
· 15小時前
內味兒不錯啊 速度上天了
查看原文回復0
纸手恐慌侠vip
· 15小時前
又不夠跑 3090
查看原文回復0
0xLuckboxvip
· 16小時前
牛啊 AI跑這麼快
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)