D'Hyperion à Prometheus, 2000 kilomètres de formation distribuée, séparer le pré-entraînement et l'apprentissage par renforcement, cette approche d'architecture d'ingénierie est intéressante, 3000 personnes dédiées aux tâches de RL, l'ambition de Meta en matière d'IA ne peut plus être cachée.

META0,66%
Voir l'original
CoinNetwork
Meta construit simultanément 5 clusters d'IA de niveau GW, et sa puissance de calcul pourrait dépasser celle d'OpenAI et d'Anthropic d'ici la fin de l'année.
币界网消息,Meta正在同时建设5座功率超过1 GW的大型AI集群,知名半导体分析机构Semianalysis估算,Meta的总算力可能在今年底超过OpenAI和Anthropic。其中,路易斯安那州的Hyperion正在建设约1 GW的设施,未来可扩展至5 GW。俄亥俄州的Prometheus已部分投运,规划规模超过3 GW,由6个园区和27座数据中心组成。Meta用高速网络将这些设施连成一个集群,未来还计划连接相距超过2 000公里的园区。由于远距离网络延迟较高,Meta会将预训练放在单一区域,并将强化学习任务分散到不同园区运行。此外,Meta还组建了约3 000人的团队,专门制作强化学习任务和训练环境。
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé