Ex-engenheiro da ByteSeed: A ByteDance leva seis meses para uma iteração, enquanto o Google, segundo rumores, leva apenas três meses.

robot
Geração de resumo em curso
ME News informa que, em 24 de abril (UTC+8), de acordo com a monitorização do Beating, o ex-engenheiro da equipa Seed da ByteDance, atualmente professor assistente na Universidade de Pequim, Zhang Chi, revelou no podcast 'Into Asia' que a ByteDance leva cerca de meio ano para completar um ciclo de treino de modelo de grande escala (pré-treino mais pós-treino), enquanto a Google, segundo rumores, leva apenas três meses.
Ele considera que a velocidade de iteração é um dos principais motivos da dificuldade das empresas chinesas em alcançar.
Zhang Chi esteve na ByteDance cerca de um ano, e a sua equipa de matemática tinha uma natureza mais de investigação. Ele afirmou que o posicionamento do grupo 'era mais para promoção', diferente das equipas de pré-treino e pós-treino responsáveis pela entrega dos modelos.
Zhang Chi descreveu a cultura de benchmaxxing (inflação de pontuações) dentro da Seed: os líderes de equipa avaliam o desempenho com base nos benchmarks pelos quais são responsáveis, e todos estão a tentar aumentar as pontuações, 'mas isso não se traduz numa boa experiência na utilização real'.
Ele disse que, no papel, os modelos das grandes empresas chinesas conseguem igualar os modelos de ponta americanos, mas na prática 'não são suficientemente bons'.
O objetivo da Seed era ser top mundial, 'mas infelizmente, não acho que tenhamos alcançado', e até o objetivo de ser o primeiro na China 'não foi cumprido'.
No final de 2024, a Seed considerava-se a par da GPT-4o, mas depois o DeepSeek foi lançado e a equipa percebeu que o fosso ainda existia. Quando ele se juntou, todo o grupo estava a fazer uma transição urgente para a aprendizagem por reforço.
(Fonte: BlockBeats)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado