Um sétimo dos parâmetros derrota a geração anterior, o pré-treinamento pode generalizar para diferentes domínios apenas com métricas de monitoramento e dados sintéticos — a eficiência de dados me surpreende mais do que o tamanho do modelo.

Ver original
MeNews
A previsão de séries temporais finalmente seguiu a Lei de Escalabilidade, o modelo Toto 2 de código aberto da Datadog com até 2,5 bilhões de parâmetros
Datadog anunciou o modelo de previsão de séries temporais de código aberto Toto 2, uma família de cinco versões: 4m, 22m, 313m, 1B, 2.5B, todas sob Apache 2.0. Toto 2 pela primeira vez valida a lei de escala no domínio de séries temporais, quanto maior a escala, melhor a previsão, 2.5B ainda não está saturado; conquistou a liderança nos benchmarks BOOM, GIFT-Eval e TIME. Introduzindo uma máscara de bloco de gráfico contínuo, transformando a autoregressão em uma passagem única para frente, acelerando significativamente, com uma latência de 313m próxima aos 120m do Chronos-2. O pré-treinamento utilizou apenas métricas de monitoramento do sistema e dados sintéticos, mantendo uma generalização entre domínios, a versão 22m com apenas um sétimo dos parâmetros derrotou Toto 1.0.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado