Промислова революція, чим дешевше вугілля, тим більше його спалюють. Зараз у епоху AI Token працює так само

Коли Token стає дешевшим, AI-продукти навпаки можуть більше спалювати
Раніше ти ставив запитання — модель відповідала — і все закінчувалося
Зараз ти натискаєш, агент у фоновому режимі розподіляє завдання, шукає інформацію, налаштовує інструменти, пише код, виправляє помилки, підсумовує, виконує повний цикл
Тому окремий Token подешевшав, але кількість Token, які споживає одне завдання, стала занадто великою
Ось чому рахунки все ще зростають
Після того, як парова машина стала більш економною у спалюванні вугілля, у Великій Британії його не менше спалювали. Адже вугілля стало більш вигідним, і почали працювати більше машин, фабрик, залізниць
Token — це той самий логіка
Після здешевлення, агент, глибокі дослідження, AI-програмування, довгий контекст, автоматизація підприємств справді почали працювати
Тому витрати на AI зараз зосереджені не на тренуванні, а на виведенні у режимі реального часу
Тренування — це тимчасовий процес, а виведення — постійне. Користувач онлайн — воно працює. Агент у процесі — воно працює. Чим довший контекст, тим більший кеш, пам’ять, пропускна здатність, електроенергія, охолодження — все це стає більш навантаженим
Ось чому AI-ланцюг не може зосереджуватися лише на GPU
HBM, DRAM, SSD, передові пакети, оптичні модулі, комутуючі чіпи, CPU, inference-чіпи — усе це переоцінюється через цю хвилю попиту на виведення
Компанії, що застосовують AI, також будуть змушені розділятися на рівні
Ті, що мають лише інтерфейсний шар і повністю залежать від закритих API, — зростання кількості користувачів означає зростання рахунків і зменшення валового доходу
Справжні бар’єри будуть поглиблюватися: маршрутизація, кількісне обчислення, кешування, пакетна обробка, обрізка контексту, заміна великих моделей малими
Так, Token — це вугілля