Nvidia запустила перший чип Groq LPX: комбінація з Vera Rubin підвищує ефективність висновку на один мегават у 35 разів, а також демонструє прототип наступного покоління Kyber

За повідомленнями CoinWorld, згідно з моніторингом 1M AI News, Groq 3 LPU (модуль обробки мови) — це перший чіп, випущений після того, як NVIDIA у грудні минулого року придбала стартап з AI-обчислень Groq за приблизно 20 мільярдів доларів. Очікується, що поставки розпочнуться у третьому кварталі цього року. Шасі Groq 3 LPX може вмістити 256 LPU, обладнаний 128 ГБ внутрішньої SRAM та пропускною здатністю розширеного з’єднання 640 ТБ/с. Офіційно заявлено, що при поєднанні LPX з Vera Rubin NVL72, максимальна пропускна здатність для обчислень на один мегават може зрости до 35 разів, одночасно відкриваючи потенціал для доходів у сценаріях з трильйонами параметрів і мільйонами токенів у контексті. Джон Хенекен описав обидва процесори як “екстремально різні, але взаємопов’язані: один орієнтований на високу пропускну здатність, інший — на низьку затримку”, а внутрішня пам’ять LPX значно розширює загальний обсяг доступної пам’яті для моделей. Планується, що шасі LPX буде випущено разом із платформою Vera Rubin у другій половині цього року. На конференції Хенекен також показав прототип архітектури наступного покоління під кодовою назвою Kyber. Kyber змінює розташування обчислювальних плат з 144 GPU у вертикальне положення для підвищення фізичної щільності та зниження затримки, і буде встановлений у наступну платформу Vera Rubin — Vera Rubin Ultra, яка очікується у 2027 році.