Notícias do site Coinjie, a Citrini Research afirma que a AMD e a Apple estão a avançar com soluções de substituição de DRAM por memória flash em produtos de IA, para reduzir os custos de memória. A AMD adquiriu a MEXT para otimizar o desempenho da memória flash, enquanto a Apple implementa a tecnologia LLM in a Flash para otimizações no dispositivo. A crescente demanda por cache KV na inferência de IA, juntamente com o HBM ocupando 25% da capacidade de produção de DRAM, enquanto o custo da memória flash é apenas 1/55 do de DRAM. Através de otimizações no controlador, empilhamento de NAND e ajustes no modo de células, podem ser oferecidas alternativas de capacidade e largura de banda para IA de edge.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 5
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
MevTeaBreak
· 5h atrás
O custo da memória flash é apenas 1/55 do DRAM? Essa redução de custos é extremamente impressionante, a IA de borda vai decolar
Ver originalResponder0
BridgeHopBella
· 5h atrás
HBM consumir 25% da capacidade de DRAM realmente é um problema difícil, mudar para uma solução de memória flash pode aliviar a pressão na cadeia de suprimentos
Ver originalResponder0
HotspotChaser
· 5h atrás
Empilhamento NAND + ajuste do modo de célula, esta rota tecnológica parece ser feita sob medida para a IA de telemóveis
Ver originalResponder0
RugProofRita
· 5h atrás
Se a tecnologia Apple LLM em Flash for implementada, executar grandes modelos localmente no iPhone não será mais um sonho
Ver originalResponder0
TvlDownBad
· 5h atrás
A jogada da AMD de adquirir a MEXT foi excelente, a otimização do controlador de memória flash é a chave para o avanço
Ver originalResponder0
  • Fixado