Notícias do site Coinjie, Citrini Research afirma que a AMD e a Apple estão avançando com soluções de substituição de DRAM por memória flash em produtos de IA, para reduzir os custos de memória. A AMD adquiriu a MEXT para otimizar o desempenho da memória flash, enquanto a Apple implementa a tecnologia LLM in a Flash para otimizações no dispositivo. A demanda por cache KV na inferência de IA está aumentando e o HBM ocupa 25% da capacidade de produção de DRAM, enquanto o custo da memória flash é apenas 1/55 do de DRAM. Através de otimizações no controlador, empilhamento de NAND e ajustes no modo de células, podem ser oferecidas alternativas de capacidade e largura de banda para IA de borda.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 5
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
MevTeaBreak
· 8h atrás
O custo de memória flash é apenas 1/55 do DRAM? Essa redução de custos é extremamente impressionante, a IA de borda vai decolar
Ver originalResponder0
BridgeHopBella
· 8h atrás
HBM consumir 25% da capacidade de DRAM realmente é preocupante, trocar para uma solução de memória flash pode aliviar a pressão na cadeia de suprimentos
Ver originalResponder0
HotspotChaser
· 8h atrás
Empilhamento NAND + ajuste do modo de célula, essa rota tecnológica parece ser feita sob medida para a IA de smartphones
Ver originalResponder0
RugProofRita
· 8h atrás
Se a tecnologia Apple LLM em um Flash for implementada, executar grandes modelos localmente no iPhone não será mais um sonho
Ver originalResponder0
TvlDownBad
· 8h atrás
A jogada da AMD de adquirir a MEXT foi excelente, o aprimoramento do controlador de memória flash é a chave para o avanço
Ver originalResponder0
  • Fixado