Do Hyperion ao Prometheus, 2000 km de treinamento distribuído, separando pré-treinamento e aprendizado por reforço. A arquitetura de engenharia é bem interessante. 3000 pessoas dedicadas apenas a tarefas de RL. A ambição da Meta em IA já não se esconde.

A CoinWorld informa que a Meta está a construir simultaneamente cinco grandes clusters de IA com potência superior a 1 GW. A conceituada empresa de análise de semicondutores, Semianalysis, estima que a capacidade total de computação da Meta pode ultrapassar a da OpenAI e da Anthropic até ao final deste ano. Na Louisiana, o Hyperion está a construir uma instalação de cerca de 1 GW, com potencial para expansão até 5 GW. Em Ohio, o Prometheus já está parcialmente operacional, com um plano de escala superior a 3 GW, composto por 6 parques e 27 centros de dados. A Meta está a ligar estas instalações numa única rede de alta velocidade, com planos futuros para conectar parques a mais de 2000 km de distância. Devido à alta latência das redes de longa distância, a Meta irá realizar o pré-treinamento numa única região e distribuir tarefas de aprendizagem por reforço por diferentes parques. Além disso, a Meta formou uma equipa de cerca de 3000 pessoas dedicada à criação de tarefas de aprendizagem por reforço e ambientes de treino.