La noticia de CoinWorld, Citrini Research indica que AMD y Apple están promoviendo soluciones de memoria flash en productos de IA para reemplazar la DRAM, con el fin de reducir los costos de memoria. AMD adquirió MEXT para optimizar el rendimiento de la memoria flash, mientras que Apple implementa la tecnología LLM in a Flash para optimizar en el dispositivo. La demanda de caché KV en inferencia de IA aumenta y HBM ocupa el 25% de la capacidad de producción de DRAM, mientras que el costo de la memoria flash es solo 1/55 del de la DRAM. A través de la optimización del controlador, apilamiento de NAND y ajuste del modo de celda, se puede ofrecer una alternativa de capacidad y ancho de banda para IA en el borde.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 5
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
MevTeaBreak
· hace5h
¿El costo de la memoria flash es solo 1/55 del de la DRAM? Este potencial de reducción de costos es demasiado exagerado, la IA en el borde está a punto de despegar
Ver originalResponder0
BridgeHopBella
· hace5h
HBM consume el 25% de la capacidad de DRAM, realmente es un dolor de cabeza, cambiar a un esquema de memoria flash puede aliviar la presión en la cadena de suministro
Ver originalResponder0
HotspotChaser
· hace5h
Apilamiento NAND + ajuste del modo de celda, esta ruta tecnológica suena como si estuviera diseñada a medida para la IA en teléfonos móviles
Ver originalResponder0
RugProofRita
· hace5h
La implementación de la tecnología Apple LLM en un instante, ejecutar grandes modelos localmente en el iPhone no es un sueño
Ver originalResponder0
TvlDownBad
· hace5h
La jugada de AMD al adquirir MEXT fue excelente, la optimización del controlador de memoria flash es la clave para un avance crucial
Ver originalResponder0
  • Fijado