Tether AI anuncia que integrará la implementación de código abierto TurboQuant en el SDK QVAC 0.12.0. TurboQuant, inicialmente propuesto por Google Research, puede comprimir la memoria de caché KV necesaria para ejecutar modelos grandes hasta 5 veces, permitiendo así la ejecución de contextos más largos, documentos más grandes y conversaciones de mayor duración en dispositivos locales. Tether afirma que esta tecnología será aplicable a laptops, teléfonos móviles, dispositivos de borde y redes de IA descentralizadas, y formará parte de su estrategia para promover la IA local y descentralizada.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado