Qwen 3.6 27B Dense modelo atinge 40 tok/s no RTX 3090

robot
Geração de resumo em curso

AIMPACT mensagem, 24 de abril de 2026 (UTC+8), o utilizador @sudoingX publicou resultados preliminares de testes: o modelo denso Qwen 3.6 27B numa única placa RTX 3090 de 24GB atingiu uma velocidade de 40 tok/s em testes 10/10. Este resultado não utilizou técnicas de quantização ou núcleos de fusão, apenas quantização direta Q4_K_M do llama.cpp. O utilizador também escreveu um teste de referência de enxame de partículas para avaliar o modelo. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar