UnslothAI lança versão DGEMMA 4-31B MLX de 4 bits otimizada para Apple Silicon

robot
Geração de resumo em curso

ME News Notícias, 11 de abril (UTC+8), a UnslothAI lançou recentemente a versão otimizada nativa de 4 bits MLX do modelo DGEMMA 4-31B.
Esta versão foi projetada especificamente para Apple Silicon, alegando oferecer velocidades de inferência extremamente rápidas em todos os Macs da série M, ao mesmo tempo que mantém um uso eficiente de memória (cerca de 20GB de RAM).
Além disso, o modelo também possui um desempenho poderoso em multimodalidade e visão, suportando um comprimento de contexto completo de 256K e funcionalidades de chamadas de funções nativas. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado