Pular para o conteúdo principal

Memória e sessões do agente

Para manter o contexto, um agente precisa de dois tipos de estado: o estado da interação que ele está gerenciando no momento e o conhecimento durável que ele carrega de uma conversa para a seguinte. O Databricks fornece um armazenamento totalmente gerenciado para cada um, ambos com suporte do Lakebase e utilizáveis por agentes criados em qualquer framework:

  • Sessões de agente gerenciadas armazenam o estado da sessão de um agente: o estado que um agente ou framework mantém para uma interação. Normalmente, trata-se do histórico de conversas (a transcrição ordenada de mensagens, chamadas de ferramenta e resultados), mas pode ser qualquer estado que um framework persista, como um gráfico do LangGraph. O agente o lê no início de um turno e o atualiza à medida que a interação é executada.
  • Memória de agente gerenciada armazena fatos duradouros, preferências e decisões que um agente recorda em conversas posteriores e separadas, recuperadas por pesquisa semântica.

Como as sessões e a memória se relacionam​

Um agente lê e acrescenta a um armazenamento de sessão para a conversa atual, e relembra e salva fatos duráveis em um armazenamento de memória que abrange conversas.

As Sessions são limitadas a uma interação: o estado de trabalho que o agente reproduz para continuar essa interação, como a transcrição da conversa. Uma sessão cresce dentro da interação e é completa por si só.

As Memories são limitadas a um assunto, e não a uma interação: os fatos duradouros que ainda devem importar em uma conversa futura e não relacionada, como as preferências estáveis de um usuário, uma decisão passada ou um projeto em andamento. O agente os recupera sempre que são relevantes, independentemente da conversa que os trouxe à tona.

Os dois se conectam no ponto em que algo em uma conversa vale a pena ser mantido. À medida que uma sessão se acumula, um agente (ou sua aplicação) destila os fatos duráveis dela e os grava na memória. A sessão é limpa posteriormente ou expira; a memória persiste. É por isso que as lojas são independentes: excluir uma sessão ou uma loja de sessões inteira não exclui a memória retida em um repositório de memória.

Use os dois juntos para a maioria dos casos de uso: as sessões dão ao agente continuidade dentro de uma conversa, e a memória dá a ele continuidade entre as conversas. Você também pode usar cada um deles separadamente. Use sessões isoladamente quando precisar apenas de estado dentro da interação, ou memória isoladamente quando sua estrutura já gerenciar o estado da sessão.

Escolha onde começar​

    • Sessões de agente gerenciadas
    • Persista e retome o estado de sessão de um agente para que uma interação sobreviva a reinicializações e reconstrua o contexto completo (incluindo mensagens, chamadas de ferramentas e raciocínio) em um acompanhamento.
    • Memória de agente gerenciada
    • Lembre-se das preferências, dos fatos e das decisões de um usuário em conversas separadas e personalize as respostas com o que o agente aprendeu anteriormente.

Abordagens herdadas​

A abordagem anterior a seguir para a memória do agente é legada e não é recomendada para novos agentes: