Aller au contenu principal
Dernière mise à jour le

IA et machine learning

Les fonctionnalités de Databricks AI pour SAP unifient le cycle de vie de l'IA, de la collecte et la préparation des données au développement de modèles et au LLMOps, en passant par le service et le monitoring. Avec SAP Databricks, une seule plateforme sert chaque étape du développement et du déploiement de ML. Les data scientists, les data engineers, les ingénieurs ML et les DevOps peuvent faire leurs Jobs en utilisant le même ensemble d'outils et une source unique de vérité pour les données.

Cet article décrit les outils que SAP Databricks fournit pour vous aider à créer des systèmes d'intelligence artificielle (IA) et de machine learning (ML).

Fonctionnalités​

Les fonctionnalités d'IA et de ML suivantes sont incluses dans SAP Databricks :

  • AI Playground pour tester les modèles d'IA générative depuis votre Databricks Workspace. Vous pouvez inviter, comparer et ajuster les paramètres tels que l'invite système et les paramètres d'inférence.
  • AI Functions que vous pouvez utiliser pour appliquer l'IA, comme la traduction de texte ou l'analyse des sentiments, sur vos données stockées sur Databricks.
  • Unity AI Gateway pour régir et surveiller l'accès aux modèles d'IA générative pris en charge et à leurs Endpoints de service de modèles associés.
  • Model Serving pour le déploiement de LLM.
  • Vector Search fournit une base de données vectorielle interrogeable qui stocke les vecteurs d'intégration et peut être configurée pour se synchroniser automatiquement avec votre base de connaissances.
  • Lakehouse Monitoring pour le monitoring des données et le suivi de la qualité des prédictions de modèle et du drift à l'aide de la journalisation automatique des charges utiles avec des tables d'inférence.
  • Managed MLflow pour le cycle de vie des agents d'IA et des modèles ML.
  • Agents personnalisés pour la création et le déploiement d'agents de qualité production comme les applications de génération augmentée par récupération (RAG).
  • Agent Evaluation pour l'évaluation de la qualité, du coût et de la latence des applications d'IA générative, y compris les applications RAG et les chaînes.
  • AutoML pour simplifier le processus d'application du Machine Learning à vos datasets.
  • Affinement de modèle de fondation pour personnaliser un modèle de fondation à l'aide de vos propres données afin d'optimiser ses performances pour votre application spécifique.
  • Unity Catalog pour la gestion des assets d'IA, y compris les modèles et les expérimentations.

Gérer les assets d’IA avec Unity Catalog​

SAP Databricks unifie la couche de données et la plateforme ML. Tous les actifs de données et artefacts, tels que les modèles et les fonctions, sont détectables et régis dans un catalogue unique. L'utilisation d'une seule plateforme pour les données et les modèles permet de suivre la traçabilité des données brutes jusqu'au modèle de production. Le monitoring intégré des données et des modèles enregistre les métriques de qualité dans des tables également stockées dans la plateforme, ce qui facilite l'identification de la cause première des problèmes de performance des modèles.

Discutez avec des LLM et prototypez des applications d'IA générative à l'aide d'AI Playground​

Vous pouvez interagir avec les grands modèles linguistiques pris en charge à l'aide de l'AI Playground. AI Playground est un environnement de type chat dans lequel vous pouvez tester, créer des prompts et comparer des LLM. Consultez Discuter avec les LLM et prototyper des applications d'IA générative à l'aide d'AI Playground.

Utiliser AI Functions dans SQL​

Les AI Functions sont des fonctions intégrées que vous pouvez utiliser pour appliquer l'IA, comme la traduction de texte ou l'analyse des sentiments, sur vos données stockées sur Databricks. Ils peuvent être exécutés depuis le Notebook et l'éditeur SQL. Les analystes, les data scientists et les ingénieurs en Machine Learning peuvent utiliser les fonctions d'IA pour appliquer l'intelligence des données à leurs données propriétaires. Voir Appliquer l'IA sur les données à l'aide des Databricks AI Functions de SAP.

Passerelle IA​

AI Gateway est conçu pour rationaliser l'utilisation et la gestion des modèles et agents d'IA générative au sein d'une organisation. Il s'agit d'un service centralisé qui apporte la gouvernance, le monitoring et la préparation à la production aux endpoints de déploiement de modèles. Il vous permet également d'exécuter, de sécuriser et de gouverner le trafic d'IA pour démocratiser et accélérer l'adoption de l'IA au sein de votre organisation. Consultez Configurer Unity AI Gateway sur les Endpoint de déploiement de modèles.

Déployer des modèles à l'aide de Model Serving​

Model Serving fournit une interface unifiée pour déployer, gouverner et query les modèles d'IA pour l'inférence en temps réel et par batch. Chaque modèle que vous déployez est disponible en tant qu'API REST que vous pouvez intégrer dans votre application web ou cliente.

Vous pouvez configurer un Endpoint de service de modèle spécifiquement pour l’accès aux modèles d’IA générative :

  • LLM ouverts de pointe utilisant les APIs de modèle de fondation.
  • Modèles tiers hébergés en dehors de Databricks.

Vector Search est une solution de recherche vectorielle intégrée à la Databricks Data Intelligence Platform et à ses outils de gouvernance et de productivité. Vector Search fournit une base de données vectorielle interrogeable qui stocke des vecteurs d'intégration et peut être configurée pour se synchroniser automatiquement avec votre base de connaissances. Les embeddings sont essentiels pour les applications qui nécessitent des recherches de similarité, telles que la RAG (Génération augmentée de récupération), les systèmes de recommandation et la reconnaissance d'images.

Monitoring du Lakehouse​

Databricks Lakehouse Monitoring vous permet de surveiller les propriétés statistiques et la qualité des données de toutes les tables de votre compte. Vous pouvez également l’utiliser pour suivre les performances des modèles de machine learning et des endpoints de service de modèles en monitoring les tables d'inférence qui contiennent les entrées et les prédictions des modèles. Voir Surveiller les données et les assets d'IA avec Lakehouse Monitoring.

Managed MLflow​

SAP Databricks fournit une version gérée de MLflow. MLflow est la plus grande plateforme de Data Engineering IA open source pour les agents, les LLM et les modèles ML . MLflow permet aux équipes de toutes tailles de déboguer, d'évaluer, de surveiller et d'optimiser des applications d'IA de qualité production tout en contrôlant les coûts et en gérant l'accès aux modèles et aux données. Avec plus de 30 millions de téléchargements mensuels, des milliers d'organisations comptent chaque jour sur MLflow pour déployer l'IA en production en toute confiance.

La suite complète de fonctionnalités de MLflow pour les agents et les applications LLM comprend une observabilité de niveau production, une évaluation, une gestion des invites, une passerelle IA pour la gestion des coûts et de l'accès aux modèles, et bien plus encore.

Pour le développement de modèles de Machine Learning (ML), MLflow offre le suivi d'Experimentation, les capacités d'évaluation de modèles, un registre de modèles de production et des outils de déploiement de modèles.

Agents personnalisés​

Les agents personnalisés sont compatibles avec des frameworks tiers comme LangChain et LlamaIndex, vous permettant de développer avec votre framework préféré tout en tirant parti du Unity Catalog géré par Databricks, de l'Agent Evaluation Framework et d'autres avantages de la plateforme.

Agent Evaluation​

Agent Evaluation aide les développeurs à évaluer la qualité, le coût et la latence des applications d'IA agentiques, y compris les applications RAG et les chaînes. Agent Evaluation est conçu pour à la fois identifier les problèmes de qualité et déterminer la cause première de ces problèmes. Les capacités d'Agent Evaluation sont unifiées sur les phases de développement, de préproduction et de production du cycle de vie MLOps, et toutes les métriques d'évaluation et les données sont journalisées dans les exécutions MLflow.

Prévisions AutoML​

La prévision AutoML simplifie la prévision des données de séries temporelles en sélectionnant automatiquement le meilleur algorithme et les meilleurs hyperparamètres, tout en s'exécutant sur des ressources de compute entièrement managées. Pour exécuter une Expérimentation de prévision, consultez la prévision AutoML.

Affinement du modèle de fondation​

remarque

Pour utiliser ce produit, votre workspace doit se trouver dans la région prise en charge, us-east-1.

Avec l'affinement du modèle de fondation, vous pouvez utiliser vos propres données pour personnaliser un modèle de fondation afin d'optimiser ses performances pour votre application spécifique. En effectuant un affinement ou en poursuivant l'entraînement d'un modèle de fondation, vous pouvez entraîner votre propre modèle en utilisant beaucoup moins de données, de temps et de ressources de compute que si vous entraîniez un modèle à partir de zéro.

En savoir plus​

Pour en savoir plus sur les fonctionnalités de machine learning et d'intelligence artificielle sur Databricks, consultez la documentation complète de Databricks AI et le machine learning. L'ensemble des fonctionnalités d'IA et de machine learning prises en charge sur SAP Databricks diffère selon les comptes déployés sur AWS et GCP.

Sur cette page