Ex-engenheiro da ByteDance Seed: Na ByteDance, uma iteração leva meio ano; Google, segundo rumores, leva apenas três meses.

robot
Geração de resumo em curso
Notícias ME News, 24 de abril (UTC+8), segundo a monitorização do 动察 Beating, Zhang Chi, antigo engenheiro da equipa Seed da ByteDance e atualmente professor assistente na Universidade de Pequim, revelou no podcast "Into Asia" que a ByteDance demora cerca de seis meses a concluir uma ronda de treino de modelos de grande escala (pré-treino mais pós-treino), enquanto a Google, segundo rumores, precisa apenas de três meses. Ele considera que a velocidade de iteração é uma das principais razões pelas quais as empresas chinesas têm dificuldade em alcançar a concorrência. Zhang Chi esteve na ByteDance cerca de um ano, numa equipa de matemática de índole mais investigativa, e descreveu o posicionamento do grupo como "mais para divulgação", diferente das equipas de pré-treino e pós-treino responsáveis pela entrega dos modelos. Zhang Chi descreveu a cultura de benchmaxxing (caça a pontuações) dentro da Seed: os líderes de equipa avaliam o desempenho com base nos benchmarks pelos quais são responsáveis, e todos se esforçam por aumentar as pontuações, "mas isso não se traduz numa boa experiência no uso real". Disse que, no papel, os modelos das grandes empresas chinesas conseguem igualar os modelos de ponta americanos, mas na prática "não são suficientemente bons". O objetivo da Seed era ser topo global, "mas, infelizmente, não acho que tenhamos alcançado", e até o objetivo de ser primeiro no país "não foi cumprido". No final de 2024, a Seed considerou ter igualado o GPT-4o, mas depois do lançamento do DeepSeek, a equipa percebeu que a diferença ainda existia e, quando ele entrou, todo o grupo estava a mudar urgentemente para a aprendizagem por reforço. (Fonte: BlockBeats)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado