Accéder aux modèles d'IA générative et de LLM depuis Unity Catalog
Aperçu
Cette fonctionnalité est en aperçu public.
Databricks comprend une sélection de modèles de base d'IA générative et de LLM de haute qualité dans Unity Catalog. Cet article décrit comment vous pouvez utiliser ces modèles et les intégrer dans vos workflows d'inférence. Ces modèles vous permettent d'accéder à des capacités d'IA de pointe, vous évitant ainsi le temps et les dépenses liés à la création de vos propres modèles personnalisés.
Pour plus d'informations sur l'utilisation de vos propres modèles personnalisés avec Unity Catalog, consultez Gérer le cycle de vie des modèles dans Unity Catalog.
Recherchez des modèles de fondation dans Unity Catalog
Dans les régions où Model Serving est activé, Databricks a préinstallé une sélection de modèles de fondation à la pointe de la technologie. Ces modèles disposent de licences permissives et ont été optimisés pour le service avec APIs de modèle de fondation avec throughput provisionné. Consultez Conditions applicables au modèle.
Databricks recommande d'utiliser les versions de base de ces modèles pour les tâches d'affinement et d'utiliser les versions instruct pour le déploiement et le service de modèles.
Ces modèles sont disponibles directement depuis l'Explorateur de catalogues, sous le catalogue system dans le schéma ai (system.ai).
Vous pouvez servir ces modèles en un seul clic, puis incorporer les Endpoint de Model Serving directement dans vos workflows d'inférence par batch. Pour déployer un modèle, cliquez sur le nom du modèle dans le catalogue pour ouvrir la page du modèle et cliquez sur Déployer ce modèle . Pour plus d'informations sur Model Serving, consultez Déployer des modèles à l'aide de Model Serving. Pour obtenir la liste des régions prises en charge pour Model Serving, consultez Disponibilité des régions.
Les modèles dans system.ai sont disponibles pour tous les utilisateurs du compte par default. Un administrateur de metastore peut gérer l'accès au schéma system.ai et à ses modèles sans administrateur de compte. Voir les autorisations de modèle de fondation Unity Catalog.
