Щойно я побачив дуже важливу новину про поглинання, яке зробила Nvidia. Компанія придбала відділ інференційних чипів від Groq за 20 мільярдів доларів у минулому грудні, і цей крок починає набирати більш ясного значення зараз.

Хуанг Ріншон, генеральний директор Nvidia, пояснив у недавньому інтерв’ю справжню причину цього стратегічного рішення. Виявилося, що справа не просто у звичайному підвищенні продуктивності, а Nvidia орієнтується на зовсім новий ринок: ринок низької затримки та високої цінності для інференцій. Цей ринок почав з’являтися нещодавно, коли користувачі почали платити різні ціни залежно від швидкості відповіді.

Проста, але потужна ідея: якщо я можу забезпечити токени з меншою затримкою для програмістів, вони зможуть працювати ефективніше, і за це заплатять більше. Хуанг описав це як розширення меж ринку — тобто додавання цілком нового сегмента замість зосередження лише на високій продуктивності.

Перший продукт після поглинання з’явився у березні: Groq 3 LPU, виготовлений за технологією 4 нанометри від Samsung. Цифри вражають: продуктивність інференції на мегават для моделей з трильйонам параметрів досягає 35-кратного зростання порівняно з Blackwell NVL72. Архітектура Groq відома своєю низькою та передбачуваною затримкою, і саме цього не вистачало у лінійці продуктів Nvidia.

Це дуже розумний підхід: той самий модель, але за різними цінами залежно від часу відповіді. Навіть якщо продуктивність нижча, вищий цінник компенсує це. Groq заповнила прогалину, яка існувала у стратегії Nvidia, і цілком очевидно, що ринок почав ділитися на різні сегменти.