Groq 3 LPX、256個のLPUチップを搭載し量産段階へ移行、出力速度は毎秒3,431トークンを達成
Beating AIによると、大規模言語モデル(LLM)の推論を高速化するために設計されたシステム「Groq 3 LPX」は、NVIDIAが2025年12月に締結した技術ライセンス契約から8か月後、本格稼働を開始した。同システムは256基のGroq 3 LPUチップを統合しており、Gemma 4 31Bを用いて入力トークン310億個を処理したArtificial Analysisのテストでは、毎秒3,431個の出力トークンを達成した。当時、一般公開されていたAPIとしては最速クラスの約4倍に相当する速度だ。 実運用では、NVIDIAのRubin GPUがより負荷の高い計算を担う一方、Groq 3 LPXはトークン生成速度を最適化する。これにより、数十回から数百回に及ぶモデル呼び出しを連続して実行するコーディングエージェントのレイテンシーを大幅に削減できる。クラウドプロバイダーのNebiusがGroq 3 LPXを最初に採用する予定で、Groq自身とDellも初期導入企業に含まれている。
GateNews·08-25 02:49





