SK Hynixは、データ移動、レイテンシ、消費電力を削減するため、メモリ内部またはメモリの近くでデータを処理するProcessing-in-Memory(PIM)を開発している 同社は、PIMによって同じチップ面積でSRAMの300倍のメモリ容量を実現できると主張しており、密度を犠牲にすることなく演算ダイとメモリダイを積層するハイブリッドボンディングを模索している 一方、High Bandwidth Flash(HBF)は、3D NANDの高密度とHBM型のインターコネクトを組み合わせ、より大容量かつ低コストでの提供を実現し、長いコンテキストと大規模バッチの推論をターゲットとしている SK Hynixはまた、高価なメモリへの依存を減らすため、HBM、DRAM、SSDにKVキャッシュを分散するソフトウェアSALT-KVも開発している
$SKHY はHBMを超えて拡大中
SK Hynixは、データ移動、レイテンシ、消費電力を削減するため、メモリ内部またはメモリの近くでデータを処理するProcessing-in-Memory(PIM)を開発している
同社は、PIMによって同じチップ面積でSRAMの300倍のメモリ容量を実現できると主張しており、密度を犠牲にすることなく演算ダイとメモリダイを積層するハイブリッドボンディングを模索している
一方、High Bandwidth Flash(HBF)は、3D NANDの高密度とHBM型のインターコネクトを組み合わせ、より大容量かつ低コストでの提供を実現し、長いコンテキストと大規模バッチの推論をターゲットとしている
SK Hynixはまた、高価なメモリへの依存を減らすため、HBM、DRAM、SSDにKVキャッシュを分散するソフトウェアSALT-KVも開発している