295 mil milhões de parâmetros mas apenas 21 mil milhões ativados, este design de esparsidade é interessante, o OpenRouter já permite experimentá-lo, vou testá-lo primeiro em sinal de respeito.

Ver original
CoinNetwork
A CoinWorld News, a Tencent lançou o mais recente modelo principal da série Hunyuan, o Hy3 preview, que utiliza a arquitetura MoE (Mixture of Experts, múltiplas pequenas redes de especialistas ativadas conforme necessário), com um total de 295 mil milhões de parâmetros e 21 mil milhões de parâmetros ativos. Este modelo já está disponível na API OpenRouter e no demo do Hugging Face, mas ainda não foram divulgados os pesos de código aberto. Este é o primeiro modelo principal liderado pelo ex-investigador da OpenAI e agora cientista-chefe de IA da Tencent, Yao Shunyu, após a sua entrada, e também o resultado de menos de 3 meses desde que a Tencent reestruturou o seu sistema de desenvolvimento de modelos base em fevereiro deste ano. A Tencent posiciona este modelo como "equivalente aos melhores modelos nacionais".
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado