P95 затримка знизилася на 91% Яке це поняття? Раніше потрібно було чекати десять секунд, а тепер — миттєво.

Mem0 опублікував дослідження основного алгоритму довготривалої пам’яті: за допомогою двоступеневого конвеєра витягує ключові факти та оновлює пам’ять, уникаючи забудькуватості. На базі бенчмарку LOCOMO точність перевищує вбудовану пам’ять OpenAI на 26%, затримка для P95 зменшилась на 91%, споживання токенів — на 90%. Посилена версія Mem0ᵍ із введенням графової бази даних захоплює міжсесійні зв’язки між об’єктами. На виробництві час від пошуку у пам’яті до відповіді становить лише 0,71 секунди, що значно швидше ніж майже 10 секунд для повного контексту. Дослідження вже подано на ECAI, а код відкрито на GitHub.