Tether AI anunciou que irá integrar o TurboQuant de código aberto na SDK QVAC 0.12.0.


O TurboQuant, inicialmente proposto pelo Google Research, pode comprimir a memória de cache KV necessária para executar grandes modelos até 5 vezes, permitindo assim contextos mais longos, documentos maiores e diálogos de maior duração a serem executados em dispositivos locais.
A Tether afirmou que essa tecnologia será aplicada em laptops, telemóveis, dispositivos de edge e redes de IA descentralizadas, como parte de sua estratégia de promover IA local e descentralizada.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado