Capacités de Databricks AI

Databricks fournit une plateforme pour la création, l'évaluation, le déploiement et le monitoring d'applications d'IA (applications d'IA). Elle rassemble une suite d'outils qui relèvent les défis liés au développement d'applications d'IA de niveau entreprise. Databricks s'intègre avec des frameworks open source populaires, en y ajoutant une gouvernance de niveau entreprise, de l'observabilité et des outils opérationnels, collectivement connus sous le nom de LLMOps.

Cette page liste les principales fonctionnalités pour l'IA, organisées par étapes de workflow d'IA.

Query AI

Databricks rend les modèles d'IA de pointe des principaux fournisseurs de modèles facilement accessibles via les modèles de base hébergés par Databricks. Vous pouvez également query les modèles des fournisseurs externes et vos modèles personnalisés. Tous ces modèles peuvent être query via les interfaces UI, API/SDK et SQL. Cette flexibilité vous permet d'utiliser l'IA pour tous les cas d'usage : chat général, agents complexes, pipelines de données automatisés, analytique de données interactive, et bien plus encore.

Méthode	Fonctionnalités
Interface utilisateur	Pour le développement, AI Playground fournit une interface utilisateur pour interroger les modèles et agents d'IA disponibles. Pour les tests, vos agents et applications peuvent être interrogés et évalués par des experts du domaine à l'aide de l'Application de révision. Pour la production, vos applications peuvent être hébergées avec une interface utilisateur à l'aide de Databricks Apps pour une utilisation au sein de votre organisation. Pour les applications externes, vous pouvez alimenter les applications destinées aux utilisateurs en utilisant les Databricks APIs.
API et SDK	Model Serving fournit des Endpoint d'API REST pour l'interrogation de modèles et d'agents. Consultez plus d'options de query, y compris le client OpenAI et le SDK Python Databricks.
SQL	Les fonctions d'IA fournissent des fonctions SQL spécifiques aux tâches et à usage général pour interroger les modèles et les agents.

Méthode	Fonctionnalités
Interface utilisateur	Pour le développement, AI Playground fournit une interface utilisateur pour interroger les modèles et agents d'IA disponibles. Pour les tests, vos agents et applications peuvent être interrogés et évalués par des experts du domaine à l'aide de l'Application de révision. Pour la production, vos applications peuvent être hébergées avec une interface utilisateur à l'aide de Databricks Apps pour une utilisation au sein de votre organisation. Pour les applications externes, vous pouvez alimenter les applications destinées aux utilisateurs en utilisant les Databricks APIs.
API et SDK	Model Serving fournit des Endpoint d'API REST pour l'interrogation de modèles et d'agents. Consultez plus d'options de query, y compris le client OpenAI et le SDK Python Databricks.
SQL	Les fonctions d'IA fournissent des fonctions SQL spécifiques aux tâches et à usage général pour interroger les modèles et les agents.

Créer l'IA

Databricks fournit un ensemble d'outils flexibles pour la création d'applications d'IA, d'agents, d'outils et de modèles. Il s'agit notamment de frameworks basés sur l'interface utilisateur et le code, qui peuvent tous optimiser les systèmes d'IA en fonction de vos données. Vous pouvez tirer parti de tout framework d'IA open source et intégrer des outils personnalisés et des serveurs MCP.

Catégorie	Fonctionnalités
Applications	Les Databricks Apps offrent un développement et un déploiement d'applications flexibles aux utilisateurs authentifiés. Les applications personnalisées peuvent être alimentées par les APIs Databricks.
Agents	Knowledge Assistant fournit un développement et une optimisation guidés des agents. L'AI Playground fournit une interface utilisateur pour prototyper des agents d'appel d'outils. Le code personnalisé et les frameworks open source peuvent être développés et déployés à l'aide des agents personnalisés ou de Databricks Apps.
Outils	La prise en charge des outils comprend les serveurs MCP et les fonctions Unity Catalog, qui offrent tous deux une gouvernance basée sur Unity Catalog.
Modèles et prompts	L'ingénierie de prompt peut être réalisée de manière interactive à l'aide de l'AI Playground, ou via une optimisation data-driven à l'aide de MLflow Prompt Optimization. Ajustez finement les modèles à l'aide de AI Runtime.

Catégorie	Fonctionnalités
Applications	Les Databricks Apps offrent un développement et un déploiement d'applications flexibles aux utilisateurs authentifiés. Les applications personnalisées peuvent être alimentées par les APIs Databricks.
Agents	Knowledge Assistant fournit un développement et une optimisation guidés des agents. L'AI Playground fournit une interface utilisateur pour prototyper des agents d'appel d'outils. Le code personnalisé et les frameworks open source peuvent être développés et déployés à l'aide des agents personnalisés ou de Databricks Apps.
Outils	La prise en charge des outils comprend les serveurs MCP et les fonctions Unity Catalog, qui offrent tous deux une gouvernance basée sur Unity Catalog.
Modèles et prompts	L'ingénierie de prompt peut être réalisée de manière interactive à l'aide de l'AI Playground, ou via une optimisation data-driven à l'aide de MLflow Prompt Optimization. Ajustez finement les modèles à l'aide de AI Runtime.

Préparez et servez les données

Databricks simplifie les données pour l'IA en unifiant la gouvernance des données traditionnelles et des charges de travail d'IA. Avec toutes les données gérées sous Unity Catalog avec des contrôles d'accès précis, il est facile d'ajuster les limites du data engineering et de l'IA pour s'adapter à votre organisation. Les données peuvent être préparées pour l'IA en utilisant n'importe quel outil de data engineering tel que les Lakeflow Pipelines. Une table dans Unity Catalog peut être utilisée pour l'IA, en utilisant un index vectoriel pour les données non structurées ou une table de caractéristiques pour les données structurées.

Type de données	Fonctionnalités
Non structuré (texte, images, etc.)	AI Search indexe automatiquement votre base de connaissances à l'échelle pour une recherche sémantique ou hybride.
Structuré (tables)	Le Serverless SQL vous permet d'intégrer des tables et des queries SQL dans votre application d'IA pour l'analytique ou les transformations. Les agents Genie peuvent être utilisés dans des systèmes multi-agents pour répondre aux queries en langage naturel concernant vos données structurées. Les magasins de fonctionnalités en ligne fournissent un accès aux fonctionnalités en temps réel pour votre application d'IA.

Type de données	Fonctionnalités
Non structuré (texte, images, etc.)	AI Search indexe automatiquement votre base de connaissances à l'échelle pour une recherche sémantique ou hybride.
Structuré (tables)	Le Serverless SQL vous permet d'intégrer des tables et des queries SQL dans votre application d'IA pour l'analytique ou les transformations. Les agents Genie peuvent être utilisés dans des systèmes multi-agents pour répondre aux queries en langage naturel concernant vos données structurées. Les magasins de fonctionnalités en ligne fournissent un accès aux fonctionnalités en temps réel pour votre application d'IA.

Déployer et servir l'IA

Databricks fournit des systèmes de service prêts pour la production pour les applications, agents et modèles d'IA, soutenus par Databricks Apps. Ces déploiements évolutifs peuvent être utilisés pour la diffusion en temps réel et l'inférence par batch. Tous les déploiements s'intègrent aux outils d'observabilité et d'évaluation et de monitoring.

Framework de développement	Déploiement et mise en service
Databricks Apps	Les applications et les agents peuvent être déployés à l'aide de Databricks Apps, qui offre un déploiement basé sur l'interface utilisateur et l'API.
Assistant de connaissances	L'Assistant de Connaissances automatise le déploiement de votre agent vers des endpoints de Model Serving.

Framework de développement	Déploiement et mise en service
Databricks Apps	Les applications et les agents peuvent être déployés à l'aide de Databricks Apps, qui offre un déploiement basé sur l'interface utilisateur et l'API.
Assistant de connaissances	L'Assistant de Connaissances automatise le déploiement de votre agent vers des endpoints de Model Serving.

Tracer, évaluer et surveiller l'IA

Databricks propose MLflow géré pour l'observabilité, l'évaluation et le monitoring de l'IA. Les APIs open source simplifient l'intégration et la portabilité, tandis que le service géré fournit des Endpoint prêts pour la production. MLflow géré par Databricks peut être utilisé pour les applications et agents d'IA hébergés sur Databricks et ailleurs.

Catégorie	Fonctionnalités
Traçage et observabilité	MLflow Tracing vous permet d'instrumenter vos agents et applications d'IA pour collecter des données de télémétrie et d'observabilité pour l'évaluation, le monitoring en production et l'audit.
Évaluation	L'évaluation MLflow vous permet de mesurer la qualité des systèmes d'IA. Juges et évaluateurs LLM intégrés et personnalisés et datasets d'évaluation vous permettent d'adapter l'évaluation à votre cas d'utilisation.
Surveillance	Le monitoring de la production vous permet de mesurer la qualité des traces de production, en utilisant les mêmes juges et évaluateurs que ceux de l'évaluation en temps de développement.
Feedback humain	Pendant le développement, l'application Review vous permet d'effectuer des contrôles d'ambiance rapides à l'aide d'une interface de chat et de recueillir les commentaires d'experts lors de sessions d'étiquetage. En production, les APIs vous permettent d'annoter des traces avec les commentaires des utilisateurs.

Catégorie	Fonctionnalités
Traçage et observabilité	MLflow Tracing vous permet d'instrumenter vos agents et applications d'IA pour collecter des données de télémétrie et d'observabilité pour l'évaluation, le monitoring en production et l'audit.
Évaluation	L'évaluation MLflow vous permet de mesurer la qualité des systèmes d'IA. Juges et évaluateurs LLM intégrés et personnalisés et datasets d'évaluation vous permettent d'adapter l'évaluation à votre cas d'utilisation.
Surveillance	Le monitoring de la production vous permet de mesurer la qualité des traces de production, en utilisant les mêmes juges et évaluateurs que ceux de l'évaluation en temps de développement.
Feedback humain	Pendant le développement, l'application Review vous permet d'effectuer des contrôles d'ambiance rapides à l'aide d'une interface de chat et de recueillir les commentaires d'experts lors de sessions d'étiquetage. En production, les APIs vous permettent d'annoter des traces avec les commentaires des utilisateurs.

LLMOps

Databricks fournit une suite complète d'outils pour les opérations d'IA, ou « LLMOps. » La gouvernance unifiée des données et des assets d'IA sous Unity Catalog simplifie et sécurise le déploiement de l'IA à l'échelle d'une organisation. AI Gateway simplifie la gestion des modèles provenant de nombreux fournisseurs de modèles d'IA. MLflow et les Declarative Automation Bundles offrent le versioning et l'Infrastructure-as-Code pour la mise en œuvre de processus LLMOps robustes.

Catégorie	Fonctionnalités
Gouvernance des assets de données et d'IA	Unity Catalog fournit une gouvernance unifiée pour les données et les assets d’IA. Les assets de données incluent les fichiers, les tables, les index vectoriels et les Magasin de fonctionnalités. Les assets d'IA incluent les modèles, les outils et les connexions pour les serveurs MCP et d'autres APIs.
Gouvernance des Endpoint de modèle	AI Gateway assure une gouvernance et un monitoring centralisés pour les Endpoint de modèles d'IA.
Gestion de versions d'invite	MLflow fournit un registre de prompts, ainsi que le suivi des expérimentations.
Infrastructure en tant que code	MLOps Stacks, qui est construit sur la base de Databricks Asset Bundles, fournit une gestion et un déploiement de l'infrastructure et des workflows basés sur le code.

Catégorie	Fonctionnalités
Gouvernance des assets de données et d'IA	Unity Catalog fournit une gouvernance unifiée pour les données et les assets d’IA. Les assets de données incluent les fichiers, les tables, les index vectoriels et les Magasin de fonctionnalités. Les assets d'IA incluent les modèles, les outils et les connexions pour les serveurs MCP et d'autres APIs.
Gouvernance des Endpoint de modèle	AI Gateway assure une gouvernance et un monitoring centralisés pour les Endpoint de modèles d'IA.
Gestion de versions d'invite	MLflow fournit un registre de prompts, ainsi que le suivi des expérimentations.
Infrastructure en tant que code	MLOps Stacks, qui est construit sur la base de Databricks Asset Bundles, fournit une gestion et un déploiement de l'infrastructure et des workflows basés sur le code.

Support open source

Databricks offre une prise en charge complète de l'écosystème open source en pleine croissance pour l'IA.

Pour le développement, vous pouvez utiliser n'importe quel framework open source et le déployer à l'aide de Databricks Apps. Les services Databricks peuvent être utilisés par des outils et applications d'IA tiers via des serveurs MCP ou l'API REST ou les SDK.

Pour l'observabilité, l'évaluation et le monitoring, MLflow Tracing fournit une journalisation automatique native pour plus de 20 frameworks d'IA open source, et vous pouvez ajouter un traçage personnalisé à tout autre framework ou code. Les traces peuvent ensuite être utilisées avec MLflow Evaluation et le monitoring de la production. Les traces suivent les spécifications de trace OpenTelemetry et peuvent être exportées vers des outils tiers.

Ressources supplémentaires

• Créez des agents sur Databricks
• MLflow open source ou géré sur Databricks