ME AI Message, selon le monitoring Beating, le responsable de la formation du grand modèle de ByteDance, Lin Haibin, est officiellement de retour dans l'équipe Seed, poursuivant la coordination du développement de la plateforme d'entraînement distribuée. Lin Haibin a quitté ses fonctions en décembre dernier pour rejoindre l'ancien chef scientifique d'OpenAI, Ilya Sutskever, fondateur de la société d'intelligence superintelligente SSI (Safe Superintelligence), et est revenu en moins de six mois. En tant qu'expert en IA, titulaire d'un master de l'Université Carnegie Mellon (CMU), sous la tutelle du célèbre spécialiste des bases de données Andy Pavlo, Lin Haibin a dirigé l'ouverture du cadre d'entraînement par apprentissage renforcé veRL et du système d'entraînement distribué à l'échelle de Vanka MegaScale. Le retour rapide de Lin Haibin reflète l'évolution des flux de talents de haut niveau dans les grands modèles entre la Chine et les États-Unis. Avant de rejoindre l'équipe AML (Apprentissage Machine Applicatif) de ByteDance en 2020, Lin Haibin a participé au développement du cadre MXNet chez Amazon AWS. Pendant son temps chez ByteDance, il a dirigé le développement du système d'entraînement recommandée GPU et de la bibliothèque de communication collective ByteCCL, et a mené une équipe pour surmonter les défis de collaboration parallèle sur plus de 10 000 GPU afin de perfectionner le système d'entraînement MegaScale. Actuellement, le volume d'appels quotidiens du grand modèle Doubao est élevé, et la stabilité des clusters d'entraînement est cruciale pour la recherche en multimodalité et en agents intelligents. La familiarité de Lin Haibin avec l'ensemble du système technologique de ByteDance permet de soutenir directement l'itération du système d'entraînement distribué sous-jacent. De plus, le cadre d'entraînement par apprentissage renforcé open source veRL, développé sous la direction de Lin Haibin, a été adopté par Alibaba Tongyi Qianwen et le laboratoire d'IA de Shanghai. La politique de retour des employés de ByteDance stipule que ceux qui quittent l'entreprise depuis plus de 3 mois sans violation peuvent demander à revenir, avec leur niveau et salaire maintenus s'ils reviennent en moins d'un an. Le retour de Lin Haibin dans ByteDance répond aux récentes mesures d'incitation pour l'équipe centrale des grands modèles. ByteDance a ouvert aux employés du département Seed une option d'achat spéciale appelée «豆包股» à 13 dollars par action. Actuellement, la compétition pour les talents en grands modèles s'est transformée en une lutte combinée «option + autonomie + puissance de calcul». Auparavant, environ 70 membres du laboratoire Seed ont rejoint des fabricants externes de grands modèles, et ByteDance tente de inverser cette fuite de talents par une conception spéciale d'actions. (Source : BlockBeats)

Voir l'original

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.

10 J'aime

Récompense
10
6
2
Partager

Commentaire

Ajouter un commentaire

TidalShellReflection

· Il y a 14h

Lin Haibin a un parcours impressionnant, AWS + OpenAI + ByteDance, veRL est également adopté par Alibaba et le laboratoire, le retour des talents montre que ByteDance offre vraiment beaucoup.

Voir l'originalRépondre0

GateUser-1859b7cd

· Il y a 14h

MegaScale jusqu'à veRL puis retour à la relance, la guerre des talents entre les grandes entreprises est plus féroce que l'itération des modèles

Voir l'originalRépondre0

GateUser-a68e8203

· Il y a 14h

veRL adopté par Alibaba montre que la technologie est vraiment solide, cette opération de ByteDance est une grosse réussite financière

Voir l'originalRépondre0

YieldTuningFork

· Il y a 14h

Revenir à ByteDance depuis OpenAI, puis repartir de ByteDance pour revenir, ce mouvement de talents est intéressant

Voir l'originalRépondre0

SushiStopLoss

· Il y a 14h

Coordonner la plateforme d'entraînement distribuée, ce poste détermine directement le plafond d'efficacité de l'entraînement des grands modèles

Voir l'originalRépondre0

ArbiterOfFees

· Il y a 14h

Le prix des options de Doubao à 13 dollars est vraiment une incitation, la plateforme d'entraînement distribuée est essentielle.

Voir l'originalRépondre0

Sujets populaires
Afficher plus
#
StockTradingChallengeUpTo17000U
16.02M Popularité
#
TrumpBacksCFTCAuthorityOverPredictionMarkets
833.2K Popularité
#
IsraelStrikesIranBTCPlunges
49.81K Popularité
#
GatePredictionMarketAddsSmartMoneyTracking
13.24M Popularité
#
MicronMarketCapBreaks1Trillion
45.82K Popularité

Épinglé

Après un départ de six mois, le spécialiste en distribution Lin Haibin revient à ByteDance, rejoignant à nouveau l'équipe Seed de ByteDance.

Sujets populaires

StockTradingChallengeUpTo17000U

TrumpBacksCFTCAuthorityOverPredictionMarkets

IsraelStrikesIranBTCPlunges

GatePredictionMarketAddsSmartMoneyTracking

MicronMarketCapBreaks1Trillion

Épinglé