Dari Hyperion ke Prometheus, pelatihan terdistribusi sejauh 2.000 kilometer, memisahkan pra-pelatihan dan pembelajaran penguatan (RL), ide arsitektur teknik ini cukup menarik, 3.000 orang khusus untuk tugas RL, ambisi AI Meta tidak bisa disembunyikan lagi.

Kabar dari Bipan, Meta sedang membangun lima klaster AI besar dengan daya lebih dari 1 GW secara bersamaan. Analis semikonduktor terkemuka Semianalysis memperkirakan bahwa total daya komputasi Meta mungkin akan melampaui OpenAI dan Anthropic pada akhir tahun ini. Di antaranya, Hyperion di Louisiana sedang membangun fasilitas sekitar 1 GW, yang di masa depan dapat diperluas hingga 5 GW. Prometheus di Ohio telah sebagian beroperasi, dengan skala rencana lebih dari 3 GW, terdiri dari 6 kampus dan 27 pusat data. Meta menghubungkan fasilitas-fasilitas ini menjadi satu klaster melalui jaringan berkecepatan tinggi, dan di masa depan berencana menghubungkan kampus yang berjarak lebih dari 2.000 kilometer. Karena latensi jaringan jarak jauh yang tinggi, Meta akan menempatkan pra-pelatihan di satu wilayah, dan mendistribusikan tugas pembelajaran penguatan ke kampus yang berbeda untuk dijalankan. Selain itu, Meta juga telah membentuk tim beranggotakan sekitar 3.000 orang yang secara khusus membuat tugas pembelajaran penguatan dan lingkungan pelatihan.