Memória que Esquece: O Primitivo Ausente na Arquitetura de Agentes

TL;DR

A memória do agente hoje armazena e recupera. Ela nunca retira nada. Quando uma premissa que você definiu na segunda-feira desmorona na quinta-feira, nada percorre a estrutura de memória e retira o trabalho que estava em cima dela.

Construímos a peça que faltava: um DAG de hipóteses persistente que propaga falhas para trás e o colocamos em um benchmark adversarial pré-registrado contra duas linhas de base em 30 problemas de P&D semeados.

O resultado: 16,8 experimentos até o objetivo contra 26,1 para uma linha de base com recordação perfeita. Trinta sementes, trinta vitórias, zero perdas.

Quatro coisas que vale a pena saber antes de você continuar:

• A vantagem é inferencial. A linha de base lembrou de cada fato que já viu e ainda assim perdeu por 9 experimentos na mediana. O motor retira perguntas que nunca precisa fazer, fazendo deduções que são impossíveis de representar em uma memória não gráfica.
• Isso previne bloqueios catastróficos. Deixado sozinho, um LLM escolhe de forma gananciosa. Para um agente operando sem supervisão por dias, a amostragem probabilística do motor garante que ele nunca se prenda catastróficamente a um caminho morto.
• Custa aproximadamente 11x os tokens. A pergunta de equilíbrio é direta: um de seus experimentos vale mais do que 400k tokens? Para uma chamada de API de $2, não. Para uma execução de treinamento de três dias, sim, por ordens de magnitude.
• Você pode assistir isso acontecer. O painel de controle da UI roda por padrão e reproduz qualquer instante passado da busca.

Agenda

1. O problema da lua de mel: por que os agentes se desmoronam em P&D de vários dias
2. Pensamento linear vs memória apenas de recuperação, e por que ambos falham
3. A pergunta que o campo não tem feito
4. O que a revisão de crença de escrita realmente é
5. Dentro de um DAG de crenças: ciclo de vida, poda em cascata, dedução
6. Assistindo-o mudar de ideia
7. Escolhendo o que testar a seguir sem se prender
8. O que o benchmark mostrou
9. O que isso custa
10. Um Estado de Crença, muitos projetos, modelos e sessões
11. Para onde isso vai

1. O Problema da Lua de Mel

Se você colocou um agente autônomo em trabalho real, você conhece a lua de mel.

As primeiras horas são genuinamente impressionantes. Ele escreve código limpo, lê logs, executa comandos, se move com intenção. Deixe o mesmo agente em uma tarefa de P&D de vários dias e algo diferente acontece.

No segundo dia, ele está em um loop. Ele reexecuta um experimento que já falhou. Ele esqueceu por que abandonou uma abordagem no passo 12. E quando uma suposição que ele fez no passo 5 desmorona no passo 45, ele continua construindo em tudo que aquela suposição produziu. Nada puxa o fio.

Isso não é um problema de software. Não é a janela de contexto e não é a inteligência do modelo. É arquitetura de memória.

2. Pensamento Linear vs Memória Apenas de Recuperação

Essencialmente, a memória do agente atualmente vem em duas formas, e ambas vazam:

Pensamento linear: ferramentas de Cadeia de Pensamento, pensamento sequencial. O modelo emite etapas de pensamento em ordem. Isso funciona para uma única sessão em um único problema. A engenharia real não é uma linha; é uma árvore ramificada onde a maioria dos ramos morre. Uma vez que o agente entra em um beco sem saída, um log linear não lhe dá nada para retroceder para.

Memória apenas de recuperação: armazenamentos vetoriais, caches chave-valor, blocos de anotações planos. O agente pode pesquisar o que escreveu há dois dias. Essa é uma memória passiva: o armazenamento mantém texto e não entende nada sobre ele. Ele não sabe que a Configuração B descansou na Suposição A, então quando A cai, B mantém seu sinal verde.

Esse é o defeito, e é fatal: a memória passiva nunca revisa.

A Suposição A leva à Hipótese B leva ao Experimento C. C falha gravemente. A memória passiva anota "C falhou" e para. Ela não marca B como suspeita. Não toca nos outros ramos que se apoiaram em A.

Não precisamos de agentes que lembrem mais. Precisamos de memória que mude de ideia e seja capaz de esquecer.

3. A Pergunta que o Campo Não Tem Feito

Antes de construir isso, lemos o campo adequadamente: uma dúzia de projetos de memória e raciocínio de código aberto, incluindo o código-fonte, não apenas seus READMEs. Implantações em produção, planos pagos, benchmarks publicados. Trabalho sério de pessoas sérias, e vários deles são melhores no que fazem do que nós seríamos.

O padrão é o que importa. Quase todos eles são construídos em torno de uma pergunta: "o que eu sei?" Armazenamento, incorporação, recuperação, classificação, governança de escrita - essa pergunta está bem atendida e melhorando a cada mês. Alguns lidam com contradições sobrescrevendo a memória mais antiga, o que é exatamente certo para a coisa para a qual foram construídos. "Eu dirijo um Skoda" se torna "Eu comprei um Tesla" e nada a montante precisa se mover.

A pergunta que ninguém está preparado para responder é a outra: "o que eu devo fazer a seguir, e o que essa falha acabou de descartar?" Isso precisa de estrutura de dependência, e a estrutura de dependência não é algo que você pode adicionar a uma camada de recuperação depois: ela tem que ser a coisa que você armazena. Portanto, há uma lacuna genuína aqui, e é uma lacuna de ênfase em vez de competência.

Fizemos empréstimos. Por exemplo: cinco equipes separadas construíram independentemente detecção de deriva: sinalizando conhecimento que era verdadeiro quando armazenado e que desde então ficou obsoleto. Cinco equipes não conectadas resolvendo o mesmo problema é uma especificação, não uma opinião, então nós também construímos isso.

4. O que a Revisão de Crença de Escrita Realmente É

A ideia não é nova. Sistemas de Manutenção de Verdade Baseados em Suposições rastreavam dependências entre declarações lógicas e retratavam toda inferência derivada de uma premissa no momento em que essa premissa caía.

Coloque esse primitivo sob um agente LLM e a forma da memória muda. Em vez de um arquivo plano ou uma pilha de parágrafos independentes, o conhecimento de trabalho do agente se torna um grafo acíclico direcionado de hipóteses em cima de um banco de dados SQLite.

Três mecanismos então funcionam sem a ajuda do modelo:

• Propagação de escrita. Um experimento falha, e o sistema percorre as arestas de dependência e retira o que descansava sobre ele - em vez de arquivar o log e seguir em frente.
• Poda em cascata. Um pai se torna INVALIDADO, e cada filho, neto e refinamento abaixo dele se torna PODADO. Nenhum token gasto raciocinando sobre ramos mortos.
• Inferência de grupo de exclusão. O agente está escolhendo um elemento entre quatro. Confirme um e os outros três se retiram como EXAURIDOS. Nada mais a testar.
• A suposição de mundo fechado é declarada, não assumida. Inferências acima são válidas apenas se as respostas listadas forem todas as respostas. Por exemplo: qual taxa de aprendizado? sempre admite outra e o motor então retém ambas. E quando uma dedução que ele fez se revela baseada em uma lista incompleta, ela é retirada em vez de defendida: o nó volta à fronteira e uma sondagem determina qual premissa estava errada.

O agente não implementa nada disso. Ele diz quais hipóteses existem, quais descansam sobre quais e quais são respostas concorrentes para a mesma pergunta. O motor faz o resto, e continua fazendo isso toda vez que um resultado chega.

A carga se desloca da janela de contexto para um banco de dados que a impõe. O modelo não precisa mais lembrar que A foi refutado.

5. Dentro de um DAG de Crença

Cada hipótese passa por um ciclo de vida, e cada estado significa algo específico:

1. NÃO TESTADO - na fronteira, elegível para despacho.
2. EM ANDAMENTO -