vkhosla présente le modèle 1-bit Bonsai 8B, avec une occupation mémoire de seulement 1,15 Go

Nouvelles ME, message du 1er avril (UTC+8). Récemment, l’auteur vkhosla a présenté sur les réseaux sociaux un modèle de poids 1 bit nommé 1-bit Bonsai 8B. Selon sa description, l’empreinte mémoire de ce modèle n’est que de 1,15 Go, et sa densité d’intelligence (intelligence density) serait supérieure de plus de 10 fois à celle de son modèle correspondant en pleine précision. Les points de vue exposés dans l’article indiquent qu’en matériel embarqué, la taille du modèle est réduite de 14 fois, la vitesse est multipliée par 8, et l’efficacité énergétique est augmentée de 5 fois, tout en restant compétitif par rapport aux autres modèles. La nouvelle mentionne également que ce modèle présente une meilleure compressibilité, une vitesse plus élevée, une taille plus réduite et une efficacité énergétique supérieure à celles du modèle annoncé par Google la veille. L’article original ne fournit pas de références de comparaison précises des performances du modèle, ni l’éditeur, ni les détails d’implémentation technique, ni les résultats d’évaluation complets. (Source : InFoQ)