Ось розкол в обчисленнях ШІ, який мало хто читає правильно.


Фронтальне навчання концентрується дедалі сильніше з кожним кварталом — тисячі GPU, які мають сидіти в одному місці, з'єднані докупи. Але навчання складає лише 30% попиту в 2026 році. Інші 70% — це інференс, і його запуск на гіперскейлері означає платити за інфраструктуру, створену для найважчого навантаження, щоб виконувати найлегше.
На розподілених мережах той самий інференс може бути на 45-75% дешевшим, і для будь-кого, хто складає бюджет на інфраструктуру ШІ, цей розрив і є всією історією.
Навчання централізується з необхідності. Інференс фрагментується, тому що платити маржу AWS за навантаження, яке її не потребує, перестає мати сенс у масштабі.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено