Comprar Cripto
Pagar com
USD
USD
Comprar e vender
Hot
Visa, Mastercard, SEPA e mais
P2P
0 Fees
Negociação flexível e sem taxas
Cartão Gate
Use criptomoedas para pagar pelo mundo
Mercados
Negociar
Básico
Avançado
Futuros
Futuros
Aceda a centenas de contratos perpétuos
CFD
Ouro
Plataforma de ativos tradicionais globais
Opções
Hot
Negoceie Opções Vanilla ao estilo europeu
Conta Unificada
Maximize a eficiência do seu capital
Negociação de demonstração
Introdução à negociação de futuros
Prepare-se para a sua negociação de futuros
Eventos de futuros
Participe em eventos para recompensas
Negociação de demonstração
Utilize fundos virtuais para experimentar uma negociação sem riscos
Ações dos EUA
CFD
Derivados CFD de ações dos EUA
Futuros
Alta alavancagem, negociação 24/7
Ações tokenizadas
Garantido por ativos de ações reais
GUSD
Cunhe GUSD para rendimentos de RWA do Tesouro
Earn
Lançamento
CandyDrop
tag
Recolher doces para ganhar airdrops
Launchpool
Faça staking rapidamente, ganhe potenciais novos tokens
HODLer Airdrop
Detenha GT e obtenha airdrops maciços de graça
Pre-IPOs
Desbloquear acesso completo a IPO de ações globais
Pontos Alpha
Negoceie ativos on-chain para airdrops
Pontos de futuros
Ganhe pontos de futuros e receba recompensas de airdrop
Investimento
Square
Square
Descubra valor em cripto
Em direto
moments live
Análise de mercado cripto em tempo real
Conversar
Converse com os operadores cripto
Notícias
O que está a acontecer na criptografia
flower_head
Mais
Promoções
AI
Outros
TradFi
Recompensas
Square
Últimas
Quente
Notícias
Perfil

Δ-Mem：Memória online eficiente para grandes modelos de linguagem

MeNews
robot
Geração de resumo em curso
ME News Notícias, 16 de maio (UTC+8), os pesquisadores propuseram o Δ-Mem, um sistema de memória online eficiente projetado especificamente para grandes modelos de linguagem. Este sistema reduz significativamente o uso de memória ao armazenar e atualizar apenas as mudanças incrementais nas ativações do modelo, em vez do estado completo das ativações. Os experimentos mostram que o Δ-Mem pode reduzir o uso de memória em até 70%, mantendo praticamente a mesma qualidade na saída do modelo. Este método ajuda a implantar e executar grandes modelos de linguagem em ambientes com recursos limitados, aumentando a viabilidade em cenários de inferência online e aprendizagem contínua. (Fonte: AiHot)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 6
  • 1
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
VineGeometry
· 3h atrás
Onde posso ver os dados do experimento? Quero ver a perda na tarefa específica.
Ver originalResponder0
AirdropMileCounter
· 3h atrás
Δ-Mem + quantização, será que consegue levar a memória de vídeo ao limite?
Ver originalResponder0
YieldSpring
· 3h atrás
A ideia de armazenamento incremental é genial, é um pouco como o cérebro humano que só lembra as partes que mudam.
Ver originalResponder0
DegenLibrarian
· 3h atrás
No cenário de aprendizagem contínua, pode haver problemas de erro acumulado?
Ver originalResponder0
PineLiquidityPool
· 3h atrás
Se isto for integrado ao vLLM, a capacidade de processamento vai disparar.
Ver originalResponder0
QuantitativeButNotPretentious
· 3h atrás
A queda de 70% na memória é incrível, os dispositivos de borda finalmente podem rodar grandes modelos
Ver originalResponder0

  • Fixado

Mapa do site