UnslothAI lança versão DGEMMA 4-31B MLX de 4 bits otimizada para Apple Silicon

robot
Geração do resumo em andamento

ME News Notícias, 11 de abril (UTC+8), UnslothAI recentemente lançou a versão otimizada em MLX de 4 bits nativa do modelo DGEMMA 4-31B.
Esta versão foi projetada especificamente para Apple Silicon, alegando oferecer velocidades de inferência extremamente rápidas em todos os Macs da série M, ao mesmo tempo em que mantém um uso eficiente de memória (cerca de 20GB de RAM).
Além disso, o modelo também possui desempenho poderoso em multimodalidade e visão, suportando um comprimento de contexto completo de 256K e funcionalidade de chamadas de funções nativas. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado