Microsoft щойно повідомила про деякі цікаві специфікації: їх остання установка забезпечує 15,200 токенів на секунду на ультратехнологічному графічному процесорі Blackwell від NVDA. Це суттєве підвищення на 27% від попереднього базового рівня 12,022 токенів/с. З gains у ефективності тут можуть змінити витрати на інфраструктуру ШІ в цілому.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
12 лайків
Нагородити
12
4
Репост
Поділіться
Прокоментувати
0/400
TokenTaxonomist
· 6год тому
*насправді* ці цифри потребують таксономічної валідації. Мої таблиці показують статистично незначний різницю у продуктивності при нормалізації за споживанням енергії
Microsoft щойно повідомила про деякі цікаві специфікації: їх остання установка забезпечує 15,200 токенів на секунду на ультратехнологічному графічному процесорі Blackwell від NVDA. Це суттєве підвищення на 27% від попереднього базового рівня 12,022 токенів/с. З gains у ефективності тут можуть змінити витрати на інфраструктуру ШІ в цілому.