Δ-Mem Essa ideia é genial, armazena apenas os incrementos e não o total, economizando 70% da memória e ainda mantendo a qualidade, finalmente há esperança para cenários com recursos limitados.

A pesquisa propôs o Δ-Mem, um sistema de memória online voltado para grandes modelos de linguagem. Ao armazenar apenas as mudanças incrementais de ativação e atualizá-las, abandonando o estado completo de ativação, reduz significativamente o uso de memória. Os experimentos mostram que o uso de memória pode diminuir até 70%, e a qualidade da saída permanece praticamente inalterada, melhorando a capacidade de inferência online e aprendizado contínuo em ambientes com recursos limitados.