Musk afirma que Colossus 2 está entrenando 7 modelos simultáneamente, con un máximo de 100 billones de parámetros

AIMPACT mensaje, 8 de abril (UTC+8), el fundador de SpaceX y xAI, Musk, publicó en X que, actualmente, el supercomputador de SpaceXAI, Colossus 2, está entrenando simultáneamente 7 modelos:

1. Imagine V2, la próxima generación de modelos de generación de imágenes y videos

2. 2 variantes de un modelo de 1 billón de parámetros

3. 2 variantes de un modelo de 1.5 billones de parámetros

4. Modelo de 6 billones de parámetros

5. Modelo de 10 billones de parámetros

Adjuntó un comentario: «Aún hay cosas por ponerse al día» (Some catching up to do). Anteriormente, varias medios informaron que el modelo insignia de próxima generación de xAI, Grok 5, tiene aproximadamente 6 billones de parámetros, lo cual coincide con los 6T en la lista. El modelo de 10 billones de parámetros no ha sido reportado públicamente antes.

En la publicación, Musk se refiere a la entidad fusionada de SpaceX y xAI como «SpaceXAI». Ambas compañías completaron su fusión en febrero de este año, con una valoración de aproximadamente 1.25 billones de dólares. Colossus 2 se lanzó el 17 de enero y es el primer clúster de entrenamiento de IA a nivel gigavatio en el mundo, con planes de actualizarse a 1.5 GW este mes. (Fuente: plataforma X)