SK hynixとMarvell、GPUスループットを5.5倍にするCXLメモリモジュールを発表
SK HynixとMarvellは、SK Hynixの高性能DRAMとMarvellのStructera A近メモリ処理エンジンを組み合わせたCXLベースの近メモリコンピューティングモジュール「CMM-Ax」を発表した。このモジュールは、16個のArmベースのデータセンターCPUコアをCXLコントローラーに統合し、メモリ内でデータを直接処理する際に最大200GB/sの内部帯域幅を実現する。この設計は、大規模言語モデルの推論ワークロード、特にKVキャッシュ処理を対象としており、キャッシュの一部をメモリ領域内で処理することで、GPUとの間の往復レイテンシを削減する。デバイスあたり512GBの構成を用いた評価では、このモジュールは単一GPUの5.5倍、デュアルGPUの3.6倍のスループットを達成した。Yole Groupは、CXL市場が今年の約21億ドルから2028年までに約160億ドルへ成長すると予測している。一方、SK HynixはCMM-Axを、従来の容量競争を超える「推論段階向けのインテリジェントメモリ」と位置付けている。 SK HynixとMarvell、CMM-Axアーキテクチャ
OliverGrant·08-11 08:49
