Ramp Labs propose une nouvelle solution de partage de mémoire entre agents multiples, réduisant la consommation de tokens maximale de 65%
Les résultats de recherche « Latent Briefing » publiés par Ramp Labs permettent, en comprimant le cache KV des grands modèles, de partager efficacement la mémoire dans les systèmes multi-agents, de réduire la consommation de jetons et d’améliorer la précision. Lors des tests sur LongBench v2, cette méthode a réussi à réduire la consommation de jetons du modèle Worker de 65% et à augmenter la précision globale d’environ 3 points de pourcentage, le temps de compression n’étant que de 1.7 seconde. Cette technologie se montre particulièrement performante dans différents contextes de documents.
GateNews·04-11 05:14
