Nvidia оприлюднила деталі витрат Blackwell: GPU вдвічі дорожчий, кожен токен дешевший у 35 разів

Біржова мережа повідомляє, що NVIDIA опублікувала деталі витрат на свою серію Blackwell, зазначивши, що вартість GPU у порівнянні з попереднім поколінням зросла вдвічі, але вартість за один токен стала дешевшою у 35 разів. За даними блогу NVIDIA, при оцінці інфраструктури для обчислень слід звертати увагу на «вартість за один токен», а не на «вартість за кожен GPU за годину». В якості тестового об’єкта використано модель deepseek-r1 (MOE inference model), порівнюючи Blackwell (GB300 NVL72) з попереднім поколінням Hopper (HGX H200). За орендною ціною на хмарному ринку, Blackwell коштує 2,65 долара США за GPU за годину, що майже вдвічі дорожче за Hopper, який коштує 1,41 долара США, але продуктивність за один GPU за секунду зросла з 90 до 6000 токенів, що на 65 разів більше. Після розподілу вартість за мільйон токенів знизилася з 4,20 до 0,12 долара США. Варто зазначити, що вартість у 0,12 долара базується на включенні кількох програмних оптимізацій, таких як низькоточна обробка FP4 та передбачення кількох токенів.