UnslothAI publie la version DGEMMA 4-31B MLX 4 bits optimisée pour Apple Silicon

robot
Création du résumé en cours

ME News Actualités, le 11 avril (UTC+8), UnslothAI a récemment publié une version optimisée en MLX 4-bit native du modèle DGEMMA 4-31B.
Cette version est spécialement conçue pour Apple Silicon, et il est dit qu’elle peut réaliser une inférence extrêmement rapide sur tous les Mac de la série M, tout en maintenant une utilisation efficace de la mémoire (environ 20 Go de RAM).
De plus, ce modèle possède de puissantes performances multimodales et visuelles, supporte une longueur de contexte complète de 256K ainsi que des fonctionnalités d’appel de fonctions natives.
(Source : InFoQ)

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé