Nvidia запустила первый чип Groq LPX: в сочетании с Vera Rubin эффективность вывода на мегаватт увеличилась максимум на 35 раз, а также продемонстрирован прототип чипа следующего поколения Kyber

По данным CoinWorld, согласно мониторингу 1M AI News, Groq 3 LPU (языковой процессорный блок) — это первый чип, выпущенный после того, как NVIDIA в декабре прошлого года приобрела стартап по AI-инференции Groq за примерно 20 миллиардов долларов. Ожидается, что поставки начнутся в третьем квартале этого года. Шасси Groq 3 LPX вмещает 256 LPU, оснащено 128 ГБ встроенной SRAM и обеспечивает расширенную межсоединительную пропускную способность 640 ТБ/с. В официальных заявлениях говорится, что при совместной работе с Vera Rubin NVL72, LPX может увеличить максимальную пропускную способность инференса до 35 раз на мегаватт, а также раскрыть потенциал доходов в сценариях с триллионами параметров и миллионами токенов в контексте. Дженсен Ху описал оба процессора как “крайне разные, но объединённые: один ориентирован на высокую пропускную способность, другой — на низкую задержку”, а встроенная память LPX значительно расширяет общую доступную память модели. Планируется, что шасси LPX поступит в продажу во второй половине этого года вместе с платформой Vera Rubin. На конференции Ху также продемонстрировал прототип следующего поколения архитектуры шасси под кодовым названием Kyber. Kyber заменит 144 GPU в вычислительном блоке на вертикальную ориентацию для повышения плотности и снижения задержки, и будет установлен на платформе Vera Rubin Ultra, которая ожидается к выпуску в 2027 году.