Hugging Face ya es de código abierto, bajo la licencia Apache 2.0, solo cópialo y funcionará en Mac, sin rodeos.

Ver original
MeNews
PrismML lanza el modelo de 1.58 bits Ternary Bonsai, reducción de parámetros en 9 veces, superando en inteligencia a modelos similares
PrismML lanza la serie Ternary Bonsai, que utiliza pesos de 1.58 bits {-1,0,+1}, con un tamaño de memoria solo una novena del modelo de 16 bits.
Las versiones de 8B/4B/1.7B ya están abiertas en Hugging Face y se ejecutan de forma nativa en dispositivos Apple.
El peso de 8B es aproximadamente 1.75 GB, con una puntuación de referencia de 75.5, liderando en su categoría.
En el iPhone 17 Pro Max, la velocidad de 8B es de 27 tokens/segundo, con una mejora en eficiencia energética de 3 a 4 veces.
Los pesos se distribuyen bajo Apache 2.0 y se ejecutan de forma nativa en dispositivos Apple a través del marco MLX.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado