Arquitectura MoE dispersa, 25B parámetros activos que ahorran energía de manera impresionante

Cohere lanza oficialmente el modelo de expertos dispersos con 218 mil millones de parámetros, Command A+, bajo licencia Apache 2.0, dirigido a agentes empresariales y despliegues privados, enfatizando la soberanía de datos y el aislamiento físico. Con un total de 218B, una activación de inferencia única de 25B; puede funcionar con dos tarjetas H100 o una sola B200, y Hugging Face ofrece versiones de baja precisión como W4A4. Command A+ soporta entrada multimodal nativa, con un contexto de entrada de 128K, longitud de salida de 64K, para flujos de trabajo complejos de inferencia, llamadas a herramientas autónomas, consultas a bases de datos y documentos largos, y soporta 48 idiomas (incluidos los idiomas oficiales de la UE).