Comprar Cripto
Pagar com
USD
USD
Comprar e vender
Hot
Visa, Mastercard, SEPA e mais
P2P
0 Fees
Negociação flexível e sem taxas
Cartão Gate
Use criptomoedas para pagar pelo mundo
Mercados
Negociar
Básico
Avançado
Futuros
Futuros
Aceda a centenas de contratos perpétuos
CFD
Ouro
Plataforma de ativos tradicionais globais
Opções
Hot
Negoceie Opções Vanilla ao estilo europeu
Conta Unificada
Maximize a eficiência do seu capital
Negociação de demonstração
Introdução à negociação de futuros
Prepare-se para a sua negociação de futuros
Eventos de futuros
Participe em eventos para recompensas
Negociação de demonstração
Utilize fundos virtuais para experimentar uma negociação sem riscos
Ações dos EUA
CFD
Derivados CFD de ações dos EUA
Futuros
Alta alavancagem, negociação 24/7
Ações tokenizadas
Garantido por ativos de ações reais
GUSD
Cunhe GUSD para rendimentos de RWA do Tesouro
Earn
Lançamento
CandyDrop
tag
Recolher doces para ganhar airdrops
Launchpool
Faça staking rapidamente, ganhe potenciais novos tokens
HODLer Airdrop
Detenha GT e obtenha airdrops maciços de graça
Pre-IPOs
Desbloquear acesso completo a IPO de ações globais
Pontos Alpha
Negoceie ativos on-chain para airdrops
Pontos de futuros
Ganhe pontos de futuros e receba recompensas de airdrop
Investimento
Square
Square
Descubra valor em cripto
Em direto
moments live
Análise de mercado cripto em tempo real
Conversar
Converse com os operadores cripto
Notícias
O que está a acontecer na criptografia
flower_head
Mais
Promoções
AI
Outros
TradFi
Recompensas
Square
Últimas
Quente
Notícias
Perfil

Moonshot AI estende a tecnologia de desacoplamento Prefill/Decode para entre centros de dados e hardware heterogéneo

MeNews
ME News Notícias, 18 de abril (UTC+8), a equipa Moonshot AI anunciou recentemente que a sua tecnologia de desacoplamento de Prefill (pré-preenchimento) e Decode (decodificação) foi bem-sucedida na expansão de um único cluster para ambientes de múltiplos data centers e hardware heterogéneo. Segundo o artigo, esta iniciativa tem potencial para reduzir significativamente o custo de inferência por token. Anteriormente, a expansão desta tecnologia tinha sido impedida pelo problema do overhead na transmissão do cache KV. A realização desta inovação dependeu crucialmente do seu modelo híbrido Kimi Linear. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 5
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
EchoOfL2
· 6h atrás
De um único cluster para múltiplos centros de dados, este passo foi grande o suficiente, a estabilidade foi verificada?
Ver originalResponder0
AirdropSideQuest
· 10h atrás
A adaptação a hardware heterogéneo é o maior desafio, se a Moonshot consegue resolver isso, mostra que a equipa de infra tem competências de excelência
Ver originalResponder0
SugarAirdropDream
· 10h atrás
O custo é a chave para a implementação de IA, a ideia de desacoplar Prefill e Decode, provavelmente, já está sendo estudada pelas outras equipes de grandes modelos durante a noite
Ver originalResponder0
GlitchOrchard
· 10h atrás
Kimi, esta inovação técnica realmente é de alto nível, consegue manter baixa latência mesmo através de múltiplos centros de dados, os custos diminuíram, e a camada de aplicação tem um espaço de imaginação ainda maior
Ver originalResponder0
MoonlightMineralWater
· 10h atrás
Redução do custo de cada token significa que desenvolvedores de pequeno e médio porte também podem usar contextos longos, o que é uma coisa boa
Ver originalResponder0

  • Fixado

Mapa do site