Витрати на токени для інференсу ШІ знижуються на 37,5%, тоді як плата за оренду GPU зростає на 15,2%, а дефіцит електроенергії подовжує терміни розгортання інфраструктури до 5–10 років
Згідно з останнім трекером індустрії ШІ, аналітик Citi Хіт Террі зазначає, що вартість токенів для інференсу знизилася на 37,5% від травневих піків — до 1,33 долара за мільйон токенів у 2-му кварталі, тоді як тарифи на оренду GPU Blackwell зросли на 15,2% — до 5,18 долара за годину. Ця розбіжність відображає роботу інтелектуальних систем маршрутизації, які автоматично призначають моделі залежно від складності завдання, систематично знижуючи витрати. Однак обмеження потужностей, затримки з ліценз
GateNews·08-11 10:49
