Thông lượng token của Rubin của NVIDIA đạt gấp 7 lần Blackwell trong thử nghiệm; Kyber Cabinet bị trì hoãn đến năm 2028
Theo SemiAnalysis, nền tảng Vera Rubin của NVIDIA đạt thông lượng token cao gấp 7 lần Blackwell trong các thử nghiệm trước khi ra mắt vào ngày 15 tháng 9. Trong các kịch bản suy luận ở mức 80 TPS với độ trễ P90, chi phí thuê trong ba năm tính trên mỗi token đầu ra của Rubin Ultra có thể cao hơn khoảng 62% so với Blackwell Ultra, dù chi phí thuê mỗi chip theo giờ cao hơn. Tuy nhiên, tủ rack Kyber NVL144, vốn được lên kế hoạch để chứa 144 GPU Rubin Ultra, đang đối mặt với sự trì hoãn trong sản xuấ
NVDA1,16%
GateNews·09-15 12:14
