🔥Ramp Labs запустила рішення для спільного збереження пам’яті багатьох агентів — Latent Briefing, при цьому максимальне споживання токенів знизилось на 65%

11 квітня компанія з інфраструктури штучного інтелекту Ramp Labs опублікувала дослідження «Latent Briefing», яке реалізує ефективне спільне збереження пам’яті між системами багатьох агентів шляхом безпосереднього стиснення кешу KV великих моделей, значно зменшуючи споживання токенів без втрати точності. У провідних архітектурах багатьох агентів координатор (Orchestrator) розбиває завдання і багаторазово викликає модель виконавця (Worker), і з розширенням ланцюга розуміння кількість токенів зростає експоненціально. Основна ідея Latent Briefing полягає в тому, щоб за допомогою механізму уваги ідентифікувати…