Microsoft baru saja mengumumkan beberapa spesifikasi menarik: pengaturan terbaru mereka mendorong 15.200 token per detik pada GPU Blackwell Ultra NVDA. Itu adalah lonjakan solid 27% dari baseline sebelumnya 12.022 token/detik. Peningkatan efisiensi di sini dapat mengubah biaya infrastruktur AI secara keseluruhan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
4
Posting ulang
Bagikan
Komentar
0/400
TokenTaxonomist
· 5jam yang lalu
*sebenarnya* angka-angka tersebut membutuhkan validasi taksonomi. spreadsheet saya menunjukkan delta kinerja yang tidak signifikan secara statistik saat dinormalisasi untuk konsumsi daya
Microsoft baru saja mengumumkan beberapa spesifikasi menarik: pengaturan terbaru mereka mendorong 15.200 token per detik pada GPU Blackwell Ultra NVDA. Itu adalah lonjakan solid 27% dari baseline sebelumnya 12.022 token/detik. Peningkatan efisiensi di sini dapat mengubah biaya infrastruktur AI secara keseluruhan.