Google Cloud A4X Max instância de metal nu supporta cluster de 50.000 GPUs, com largura de banda de rede duplicada

robot
Geração de resumo em curso
ME News Notícias, 19 de abril (UTC+8), o Google Cloud anunciou que sua instância nua de metal A4X Max suporta clusters de até 50.000 GPUs, com largura de banda de rede duas vezes maior que a do produto anterior.
A instância pertence à série de máquinas otimizadas para aceleradores do Google Compute Engine, que vêm pré-instaladas com GPUs NVIDIA, projetadas para IA, aprendizagem de máquina, computação de alto desempenho e aplicações intensivas em gráficos.
A documentação detalha várias séries de máquinas, incluindo A4X Max, A4X, A4, A3, A2, G4 e G2, e recomenda séries específicas com base no tipo de carga de trabalho (como pré-treinamento, ajuste fino, inferência, gráficos, computação de alto desempenho).
Além disso, a documentação explica as opções de preços e consumo baseadas em GPU pré-instaladas, vCPU, memória e SSD local (sob demanda, Spot, Flex-start, reservado), bem como a experiência de manutenção de diferentes tipos de máquinas.
(Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 8
  • 2
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
MossyLedger
· 2h atrás
Pré-treinamento, ajuste fino e inferência tudo incluído, a Google quer que as pessoas vivam e morram na sua nuvem.
Ver originalResponder0
GateUser-8da82d63
· 7h atrás
Com base na recomendação do tipo de instância de carga de trabalho, para eu não ter que calcular TFLOPS sozinho.
Ver originalResponder0
BoredInBlockspace
· 8h atrás
Reservar instâncias é adequado para negócios com alta certeza, mas quem pode garantir o treinamento de um grande modelo?
Ver originalResponder0
GateUser-eccf92a1
· 8h atrás
A oferta de GPU do Google Cloud finalmente acompanhou o ritmo, antes solicitar A100 levava uma eternidade
Ver originalResponder0
BlocktimeBarista
· 8h atrás
O metal nu é virtualização, portanto não há custos de overhead, vale a pena o investimento.
Ver originalResponder0
ExitLiquidityIntern
· 8h atrás
A experiência de manutenção do cluster de 50.000 cartões... Quantos engenheiros de SRE seriam necessários para dormir bem?
Ver originalResponder0
TreatMemesAsBeliefs
· 8h atrás
A transparência nos preços de SSDs locais é uma coisa boa, anteriormente, os custos de armazenamento de alguns fornecedores de nuvem eram como abrir uma caixa de surpresa.
Ver originalResponder0
StakingDaydreamer
· 8h atrás
Os fornecedores de nuvem estão a ficar loucos, um cluster de 50.000 GPUs é para competir com o centro de supercomputação?
Ver originalResponder0
  • Fixado