Compactação instantânea de contexto avaliando cada tool call
tamara · @tamarajtran3,7 mi visualizações no X
Projeto que compacta o contexto de um agent sem pedir a um LLM que resuma o histórico. Em vez disso, o Jev avalia cada tool call já executada, mede o quanto ela ainda importa para a tarefa e descarta o que ficou irrelevante. A compactação passa a ser quase instantânea e deixa de reescrever informação útil.
O que o Jev decide aqui?
Para cada tool call no histórico, o Jev julga se ela ainda é relevante para a tarefa em andamento; as que não são saem do contexto.
Por que isso importa?
Resumir histórico com um prompt custa tokens de saída, demora e pode distorcer detalhes que o agent vai precisar depois. Filtrar item a item preserva o texto original do que fica e remove só o ruído, o que mantém o contexto enxuto em sessões longas de agents de código, atendimento ou pesquisa.
O mesmo raciocínio serve para anexos, mensagens antigas de chat e resultados de busca acumulados. Cuidado prático: defina bem o que é a tarefa atual no state e guarde o histórico completo em outro lugar, para conseguir recuperar algo descartado por engano.
Post original
tamara
@tamarajtran
found the perfect use case for @typesafeai Jev: instant compaction in 2026, why is compaction still a summarization prompt? Jev can make it instant by scoring every tool call and dropping what’s irrelevant
