État et mémoire de l'agent
Les agents d'IA ont besoin d'un stockage persistant pour maintenir le contexte à travers les tours et les sessions. Lakebase Autoscaling fournit un backend Postgres entièrement managé pour le stockage de l'état et de la mémoire de l'agent, s'intégrant en mode natif à l'authentification Databricks et montant en charge automatiquement avec votre charge de travail.
Mémoire à court terme et à long terme
Mémoire à court terme | Mémoire à long terme |
|---|---|
Capture le contexte au sein d'une seule session de conversation à l'aide des ID de fil de discussion et des points de contrôle. Permet aux agents de répondre aux questions de suivi en tenant compte des échanges précédents. | Extrait et stocke les insights clés sur plusieurs conversations. Permet d'obtenir des réponses personnalisées basées sur les interactions passées. Construit une base de connaissances utilisateur qui s'améliore au fil du temps. |
Vous pouvez implémenter l'un ou l'autre des types de mémoire, ou les deux, dans le même agent.
Options de déploiement
La mémoire d'agent basée sur Lakebase est prise en charge sur deux cibles de déploiement Databricks :
Databricks Apps : Déployez des agents sous forme d'applications interactives avec une mémoire à court ou à long terme, en utilisant les checkpointers LangGraph ou le SDK OpenAI Agents. Databricks gère automatiquement l'authentification entre l'application et Lakebase.
Voir Mémoire d'agent auto-gérée (Lakebase).
Model Serving : déployez des agents sur des Endpoint Model Serving avec des points de contrôle basés sur Lakebase. Prend en charge le time travel LangGraph pour reprendre ou bifurquer des conversations à partir de n'importe quel point de contrôle. Consultez la mémoire d'agent IA (Model Serving).
Mise en œuvre
Pour obtenir des instructions de configuration complètes, des Template d'application et des exemples de Notebook, consultez :