Groq、次世代AIチップのアーキテクチャを3D積層DRAMベースに移行し、SRAMを廃止
最近の報道によると、エヌビディアに買収されたばかりのGroqは、従来のSRAMベースのアーキテクチャから脱却し、次世代AIチップに3D積層DRAMパッケージング(3DS)を採用することを検討しています。この新方式では、シリコン貫通電極(TSV)技術を利用して複数の半導体ダイを垂直方向に接続し、標準的なDRAMインターフェースプロトコルを維持しながら、単位面積あたりのメモリ密度を大幅に高めます。データスループットを重視するエヌビディアのHBM技術とは異なり、3DSはメモリ容量の拡張に重点を置いており、膨大な数のモデルパラメータを扱うAI推論タスクに、より実用的なソリューションとなります。GroqのLPUアーキテクチャは優れた推論速度で知られていますが、10億パラメータ規模のモデルを処理する際には、SRAM容量の限界が制約となってきました。3D積層DRAMを採用することで、Groqは速度面での優位性を維持しながら、大規模なAIモデルの展開における容量の制約を解消することを目指しています。
NVDA+2.15%
GateNews·10-21 21:52
