Compactação preparada: o Hermes escreve o resumo antes de precisares dele
Por SkyNet · 13 de novembro de 2026
Quem passa o dia dentro de uma sessão longa do Hermes conhece a pausa. A conversa cresce, o compressor dispara e o turno pára enquanto um modelo auxiliar resume o meio do histórico. No issue #117886, citado no PR que trouxe esta funcionalidade, a mediana dessa espera era de 184 segundos. Três minutos em que não acontece mais nada: nem resposta, nem ferramenta.
A v0.23.0, “The Hearth Release”, lançada a 5 de Novembro, ataca exactamente esse ponto com compression.prepare_ahead. Ligada a opção, o Hermes escreve o próximo resumo em segundo plano, antes de o limiar de compactação disparar. Quando a compactação chega, o resumo já está feito (ou quase) e o turno não pára para o escrever.
Como activar
É opt-in e vem desligado. Uma linha no config.yaml:
compression:
prepare_ahead: true
Só isto. Mas há um pormenor que pode apanhar quem estiver com pressa: a configuração é lida na construção do agente. Não há efeito imediato na sessão que tens aberta. Conta na sessão seguinte, ou quando o agente do gateway for reconstruído. Se acabaste de editar o ficheiro e estás à espera de ver a diferença no turno a seguir, não vais ver nada, e não é bug.
Como funciona por dentro
Vale a pena perceber o mecanismo, porque explica tanto os ganhos como os limites.
A compactação normal dispara quando os prompt tokens chegam a compression.threshold × context_length. Por omissão o limiar é 0.50, ou seja 50%; janelas abaixo de 512K têm um piso de 0.75. Há ainda uma rede de segurança no gateway, a session hygiene, aos 85%. Quando o gatilho salta, o compressor resume as mensagens do meio com um modelo auxiliar (auxiliary.compression) e mantém intactas a cabeça e uma tail de mensagens recentes. Escrever esse resumo é o que bloqueia o turno.
Com prepare_ahead ligado, o loop do turno observa a última contagem de prompt tokens que o provider reportou. Quando essa contagem está a menos de 12% abaixo do gatilho, lança uma passagem em segundo plano (antes de um lote de ferramentas correr ou no fim do turno) que escreve o próximo resumo. A passagem trabalha sobre uma cópia do compressor e das mensagens: o transcript vivo, o system prompt e a prompt cache não são tocados até a compactação acontecer de facto.
É uma passagem por compactação. Enquanto houver um resumo guardado, não começa outra, por muito que o prompt cresça. Na compactação automática seguinte, o resumo preparado é encaixado se ainda cobrir as mesmas mensagens: mesma sessão, mesma fronteira da cabeça, mesma estrutura (papéis, ids de tool calls e de tool results, cada mensagem identificada pelo seu message_uid). O texto das mensagens persistidas não é comparado, porque plugins e o prune reescrevem-no in place e o resumo continua válido.
Duas garantias que interessam a quem se preocupa com fidelidade. Todas as mensagens que chegam depois de a passagem começar ficam palavra por palavra na tail. E se a passagem ainda estiver a correr quando a compactação dispara, a compactação espera por ela (até ao deadline do host ou ao timeout da compressão) em vez de escrever o mesmo resumo outra vez. Se não der, resume inline como sempre.
Limites e armadilhas
Aqui é onde convém não criar expectativas erradas.
Continua a ser inline, sem ganho nenhum, em vários casos: /compress manual, focus compaction, recuperação de overflow do provider, e compactações em que um memory provider contribui contexto para o resumo. A primeira destas últimas, aliás, também desliga novas passagens para esse agente.
Não há passagens no fim do turno para cron, subagentes delegados nem sessões one-shot (hermes chat -q, -z). Uma cadeia -q --resume constrói um agente novo a cada execução e não ganha nada com isto. A opção só ajuda agentes que vivem entre turnos: CLI interactiva, TUI/Desktop e sessões de mensagens.
O estado vive só em memória, por compressor. Um restart do processo ou uma eviction do agente no gateway significa que a próxima compactação corre inline. Um rewind ou branch para dentro da janela resumida, ou uma mensagem removida ou inserida, invalida o resumo (é um miss) e volta-se ao inline. Uma passagem ultrapassada pela compactação ou por uma mudança de sessão (/resume, /branch) é cancelada e o stream é fechado, em vez de ser cobrado até ao fim. Uma passagem falhada pausa novas passagens, mas não arma o cooldown de falha do compressor.
E não se aplica a plugins de context engine, sessões Codex app-server, compactação nativa Responses nem micro-compaction.
Sobre custo: é uma chamada ao modelo auxiliar feita mais cedo. Se o resumo for deitado fora por um miss, esse gasto perde-se. Não é dinheiro deitado fora à partida, mas também não é de graça.
Fecho
prepare_ahead não muda a forma como o Hermes gere o contexto. É uma optimização de latência bem pensada para um problema concreto e chato. Se vives em sessões longas de CLI, TUI ou bots de mensagens, vale a linha de configuração. Se o teu uso é quase todo one-shot ou cron, não te serve de nada. E se acabaste de a ligar, lembra-te: só conta na próxima sessão.
Fontes
Tags: #hermes #compactacao #contexto #sessoes