Aller au contenu principal

Utilisez des agents sur Databricks

Cette page fournit un aperçu des outils permettant de créer, déployer et utiliser des agents d'IA sur Databricks. Pour en savoir plus sur les agents, consultez les modèles de conception de système d'agent.

Serve and query les grands modèles de langage (LLM) d'IA générative

Proposez un ensemble organisé de modèles d'IA générative provenant de fournisseurs LLM tels qu'OpenAI et Anthropic, et rendez-les disponibles via des APIs sécurisées et évolutives.

Fonctionnalité

Description

Modèles de fondation

Servez des modèles d'IA générative, y compris des modèles open source et tiers tels que Meta Llama , Anthropic Claude , OpenAI GPT , et plus encore.

Fonctionnalité

Description

Modèles de fondation

Servez des modèles d'IA générative, y compris des modèles open source et tiers tels que Meta Llama , Anthropic Claude , OpenAI GPT , et plus encore.

Créez et déployez des agents d'IA de niveau entreprise

Créez et déployez vos propres agents, y compris des agents d'appel d'outils, des applications de génération augmentée par récupération et des systèmes multi-agents. Pour un point de départ sans code, utilisez l’AI Playground pour sélectionner un LLM, ajouter des outils et discuter avec l’agent afin de tester ses réponses avant d’exporter vers le code.

AI Playground offre une option low-code pour le prototypage d'agents.

Fonctionnalité

Description

AI Playground (sans code)

Prototypez et testez les agents IA dans un environnement sans code. Expérimentez rapidement les comportements des agents et les intégrations d'outils avant de générer le code pour le déploiement.

Assistant de connaissances

Créez et optimisez des chatbots IA spécifiques au domaine à l'aide d'une interface intuitive.

Agent superviseur

Créez un agent superviseur qui orchestre les Genie Agents, les Endpoint d'agent, les fonctions Unity Catalog, les serveurs MCP et les agents personnalisés.

Créez des agents personnalisés

Créez, déployez et évaluez des agents à l'aide de Python. Prend en charge les agents écrits avec n'importe quelle bibliothèque de création, y compris LangGraph, LangChain, OpenAI et LlamaIndex. Intégré à MLflow Tracing. Itérez rapidement avec Databricks Apps. Pour commencer rapidement, consultez Premiers pas avec les agents IA.

Connectez les agents aux outils

Créez des outils d'agent pour `query` des données structurées et non structurées, exécuter du code, ou vous connecter à des `APIs` de service externes.

MCP (protocole de contexte de modèle)

Standardisez la manière dont les agents se connectent aux données et aux outils avec une interface sécurisée et cohérente.

Fonctionnalité

Description

AI Playground (sans code)

Prototypez et testez les agents IA dans un environnement sans code. Expérimentez rapidement les comportements des agents et les intégrations d'outils avant de générer le code pour le déploiement.

Assistant de connaissances

Créez et optimisez des chatbots IA spécifiques au domaine à l'aide d'une interface intuitive.

Agent superviseur

Créez un agent superviseur qui orchestre les Genie Agents, les Endpoint d'agent, les fonctions Unity Catalog, les serveurs MCP et les agents personnalisés.

Créez des agents personnalisés

Créez, déployez et évaluez des agents à l'aide de Python. Prend en charge les agents écrits avec n'importe quelle bibliothèque de création, y compris LangGraph, LangChain, OpenAI et LlamaIndex. Intégré à MLflow Tracing. Itérez rapidement avec Databricks Apps. Pour commencer rapidement, consultez Premiers pas avec les agents IA.

Connectez les agents aux outils

Créez des outils d'agent pour `query` des données structurées et non structurées, exécuter du code, ou vous connecter à des `APIs` de service externes.

MCP (protocole de contexte de modèle)

Standardisez la manière dont les agents se connectent aux données et aux outils avec une interface sécurisée et cohérente.

Utiliser des agents externes

Si votre agent s'exécute en dehors de Databricks, enregistrez-le en tant que service d'agent dans Unity Catalog pour le rendre détectable par votre équipe et gérer qui peut l'utiliser.

Fonctionnalité

Description

Services d'agent (bêta)

Enregistrez les agents externes dans Unity Catalog. Parcourir et découvrir les agents au sein des équipes à partir d'une vue unique, et contrôler l'accès avec les mêmes octrois qui protègent vos tables, modèles et fonctions.

Fonctionnalité

Description

Services d'agent (bêta)

Enregistrez les agents externes dans Unity Catalog. Parcourir et découvrir les agents au sein des équipes à partir d'une vue unique, et contrôler l'accès avec les mêmes octrois qui protègent vos tables, modèles et fonctions.

Évaluez, déboguez et optimisez les agents

Suivez les performances de l'agent, recueillez les commentaires et favorisez les améliorations de qualité grâce à des outils d'évaluation et de traçage.

Fonctionnalité

Description

MLflow Tracing

Utilisez le MLflow Tracing pour une observabilité de bout en bout. Enregistrez chaque étape de votre agent pour déboguer, surveiller et auditer le comportement de l'agent en développement et en production.

Agent Evaluation

Utilisez Agent Evaluation et MLflow pour mesurer la qualité, le coût et la latence. Recueillez les commentaires des parties prenantes et des experts en la matière via des applications de révision intégrées et utilisez des juges LLM pour identifier et résoudre les problèmes de qualité.

Surveiller les agents

Utilisez la même configuration d’évaluation (juges LLM et métriques personnalisées) pour l’évaluation hors ligne et le monitoring en ligne.

Fonctionnalité

Description

MLflow Tracing

Utilisez le MLflow Tracing pour une observabilité de bout en bout. Enregistrez chaque étape de votre agent pour déboguer, surveiller et auditer le comportement de l'agent en développement et en production.

Agent Evaluation

Utilisez Agent Evaluation et MLflow pour mesurer la qualité, le coût et la latence. Recueillez les commentaires des parties prenantes et des experts en la matière via des applications de révision intégrées et utilisez des juges LLM pour identifier et résoudre les problèmes de qualité.

Surveiller les agents

Utilisez la même configuration d’évaluation (juges LLM et métriques personnalisées) pour l’évaluation hors ligne et le monitoring en ligne.