Ancien ingénieur Seed de ByteDance : une itération chez ByteDance prend six mois, selon une rumeur chez Google, seulement trois mois.

robot
Création du résumé en cours
ME News message, le 24 avril (UTC+8), selon la surveillance de Dongcha Beating, Zhang Chi, ancien ingénieur de l'équipe Seed de ByteDance et maintenant professeur assistant à l'Université de Pékin, a révélé dans le podcast « Into Asia » que ByteDance a besoin d'environ six mois pour terminer un cycle de formation de grand modèle (pré-formation et post-formation), tandis que Google, selon des rumeurs, n'a besoin que de trois mois. Il estime que la vitesse d'itération est l'une des raisons fondamentales pour lesquelles les entreprises chinoises ont du mal à rattraper leur retard. Zhang Chi a travaillé chez ByteDance pendant environ un an, dans une équipe mathématique plutôt axée sur la recherche. Il a déclaré que le positionnement de ce groupe était « davantage destiné à la publicité », contrairement aux équipes de pré-formation et de post-formation responsables de la livraison du modèle. Zhang Chi a décrit la culture de « benchmaxxing » (maximisation des benchmarks) au sein de Seed : les chefs d'équipe évaluent les performances en fonction des benchmarks dont ils sont responsables, et tout le monde cherche à augmenter les scores, « mais cela ne se traduit pas par une bonne expérience en utilisation réelle ». Il a dit que sur le papier, les modèles des grandes entreprises chinoises peuvent égaler les modèles de pointe américains, mais dans la pratique, ils ne sont « pas assez bons ». L'objectif de Seed est d'être le meilleur au monde, « mais malheureusement, je ne pense pas que nous ayons rattrapé notre retard », même l'objectif d'être numéro un en Chine « n'a pas été atteint ». Fin 2024, Seed pensait avoir égalé GPT-4o, puis DeepSeek est sorti, et l'équipe a réalisé que l'écart persistait. Lorsqu'il a rejoint l'équipe, tout le groupe était en train de se tourner d'urgence vers l'apprentissage par renforcement. (Source : BlockBeats)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé