Wenxin 5.1 está oficialmente lançado! O custo de pré-treinamento é apenas 6% do setor

Hoje, o Wenxin 5.1 foi lançado oficialmente. Reduz significativamente os custos de pré-treinamento, comprimindo o número total de parâmetros para cerca de 1/3, e os parâmetros ativos para cerca de 1/2, usando apenas cerca de 6% do custo de pré-treinamento de modelos de escala semelhante na indústria, alcançando um desempenho de base superior ao de modelos do mesmo nível. (Baidu Wenxin)