Tether AI anuncia que será integrado o TurboQuant de código aberto na SDK QVAC 0.12.0. TurboQuant foi originalmente proposto pelo Google Research e pode comprimir a memória de cache KV necessária para executar grandes modelos até 5 vezes, permitindo contextos mais longos, documentos maiores e diálogos de maior duração em dispositivos locais. A Tether afirmou que essa tecnologia será aplicada em laptops, celulares, dispositivos de borda e redes de IA descentralizadas, como parte de sua estratégia de promover IA local e descentralizada.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado