Affinement du modèle de fondation (obsolète)
L'affinement des modèles de fondation est obsolète et devrait être supprimé le 14 août 2026. Les exécutions d'affinement existantes continuent de fonctionner et peuvent être réentraînées, mais les nouvelles installations du package databricks_genai et de l'interface utilisateur d'affinement du modèle de fondation seront bloquées après cette date.
Databricks vous recommande de migrer vers AI Runtime, qui fournit un environnement serverless, basé sur un GPU, pour l'entraînement et l'affinement des modèles de base.
Aperçu
Cette fonctionnalité est en Aperçu public dans us-east-1 et us-west-2.
Avec l'affinement de modèles de fondation (désormais partie de Databricks Model Training), vous pouvez utiliser vos propres données pour personnaliser un modèle de fondation afin d'optimiser ses performances pour votre application spécifique. En effectuant un affinement ou en poursuivant l'entraînement d'un modèle de fondation, vous pouvez entraîner votre propre modèle en utilisant beaucoup moins de données, de temps et de ressources de compute que si vous entraîniez un modèle à partir de zéro.
Avec Databricks, vous avez tout sur une seule plateforme : vos propres données à utiliser pour la formation, le modèle de fondation à former, les checkpoints enregistrés dans MLflow, et le modèle enregistré dans Unity Catalog et prêt à être déployé.
Consultez Tutoriel : Créer et déployer une exécution d'affinement de modèle de fondation (déprécié) pour apprendre à créer une exécution à l'aide de l'API d'affinement de modèle de fondation, puis à examiner les résultats et à déployer le modèle à l'aide de l'interface utilisateur Databricks et de Model Serving.
Qu'est-ce que l'affinement de modèle de fondation ?
L'affinement du modèle de fondation vous permet d'utiliser l'API Databricks ou l'interface utilisateur pour affiner ou entraîner davantage un modèle de fondation.
En utilisant l'affinement des modèles de fondation, vous pouvez :
- Entraîner un modèle avec vos données personnalisées, avec les points de contrôle enregistrés dans MLflow. Vous conservez le contrôle total du modèle entraîné.
- Enregistrez automatiquement le modèle dans Unity Catalog, ce qui facilite le déploiement avec le service de modèle.
- Affiner l'entraînement d'un modèle propriétaire achevé en chargeant les poids d'un modèle préalablement entraîné.
Databricks vous recommande d'essayer l'affinement du modèle de fondation si :
- Vous avez essayé le « few-shot learning » et souhaitez de meilleurs résultats.
- Vous avez essayé l'ingénierie de prompt sur un modèle existant et vous voulez de meilleurs résultats.
- Vous souhaitez un contrôle total sur un modèle personnalisé pour la confidentialité des données.
- Vous êtes sensible à la latence ou aux coûts et souhaitez utiliser un modèle plus petit et moins cher avec vos données spécifiques à la tâche.
Tâches prises en charge
L'affinement du modèle de fondation prend en charge les cas d'utilisation suivants :
- Achèvement du chat : tâche recommandée. Entraînez votre modèle sur les Logs de conversation entre un utilisateur et un assistant IA. Ce format peut être utilisé à la fois pour les Logs de discussion réels et comme format standard pour les questions-réponses et le texte conversationnel. Le texte est automatiquement formaté dans le format approprié pour le modèle spécifique. Consultez les exemples de Template de chat dans la documentation HuggingFace pour plus d'informations sur les informations.
- Affinement d'instructions : entraînez votre modèle sur des données structurées de prompt-réponse. Utilisez cette option pour adapter votre modèle à une nouvelle tâche, modifier son style de réponse ou ajouter des capacités de suivi d'instructions. Cette tâche n'applique pas automatiquement de mise en forme à vos données et n'est recommandée que lorsque une mise en forme des données personnalisée est requise.
- Pré-entraînement continu : Entraînez votre modèle avec des données textuelles supplémentaires. Utilisez cette option pour ajouter de nouvelles connaissances à un modèle ou pour concentrer un modèle sur un domaine spécifique.
Exigences
- Un workspace Databricks dans l'une des régions AWS suivantes :
us-east-1etus-west-2. - APIs d'affinement du modèle de fondation installées à l'aide de
pip install databricks_genai. - Votre Workspace ne doit pas utiliser les politiques d’accès S3.
- Databricks Runtime 12,2 LTS ML ou version supérieure si vos données se trouvent dans une table Delta.
Consultez Préparer les données pour l'affinement du modèle de fondation (déprécié) pour obtenir des informations sur les formats de données d'entrée requis.
Taille de données recommandée pour l'entraînement du modèle
Databricks recommande d'effectuer l'entraînement initial sur une à quatre époques. Après avoir évalué votre modèle affiné, si vous souhaitez que les sorties du modèle soient plus similaires à vos données d'entraînement, vous pouvez start à continuer l'entraînement en utilisant une à deux époques supplémentaires.
Si les performances du modèle diminuent considérablement sur des tâches non représentées dans vos données d'affinement, ou si le modèle semble produire des copies exactes de vos données d'affinement, Databricks recommande de réduire le nombre d'époques d'entraînement.
Pour l'affinement des instructions et la complétion de chat, vous devez fournir suffisamment de jetons pour au moins une longueur de contexte complète du modèle. Par exemple, 131 072 jetons pour meta-llama/Llama-3.2-3B-Instruct.
Pour la pré-formation continue, Databricks recommande un minimum de 1,5 million de jetons pour obtenir un modèle de meilleure qualité qui apprend vos données personnalisées.
Modèles pris en charge
Le tableau suivant répertorie les modèles pris en charge. Consultez Licences de modèles pour la licence de modèle applicable et les informations sur la politique d'utilisation acceptable.
Pour continuer à prendre en charge les modèles les plus récents, Databricks pourrait mettre à jour les modèles pris en charge ou retirer les anciens modèles.
Modèle | Longueur maximale du contexte | Notes |
|---|---|---|
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 | |
| 131 072 |
Licences de modèle
Le tableau suivant fournit les informations applicables sur les licences de modèles et les politiques d'utilisation acceptables pour les familles de modèles prises en charge.
Famille de modèles | Licence et politique d'utilisation acceptable |
|---|---|
Meta Llama 3.2 | Meta Llama 3.2 est sous licence LLAMA 3.2 Communauté License, Copyright © Meta Platforms, Inc. Tous droits réservés. Les clients sont responsables de s'assurer de leur conformité avec les conditions de cette licence et de la Politique d'utilisation acceptable de Llama 3.2. |
Meta Llama 3.1 | Meta Llama 3.1 est sous licence LLAMA 3.1 Communauté License, Copyright © Meta Platforms, Inc. Tous droits réservés. Les clients sont responsables de la conformité aux licences de modèle applicables. |
Utiliser l'affinement du modèle de fondation
L'affinement du modèle de fondation est accessible en utilisant le SDK databricks_genai. L'exemple suivant crée et lance un run d'entraînement qui utilise des données des volumes Unity Catalog. Voir Créer un run d'entraînement en utilisant l'API d'affinement du modèle de fondation (obsolète) pour les détails de configuration.
from databricks.model_training import foundation_model as fm
model = 'meta-llama/Meta-Llama-3.1-8B-Instruct'
# UC Volume with JSONL formatted data
train_data_path = 'dbfs:/Volumes/main/mydirectory/ift/train.jsonl'
register_to = 'main.mydirectory'
run = fm.create(
model=model,
train_data_path=train_data_path,
register_to=register_to,
)
Consultez le notebook de démonstration Affinement d'instructions : Named Entity Recognition pour un exemple d'affinement d'instructions qui présente la préparation des données, la configuration et le déploiement de l'exécution de l'affinement.
Limitations
-
Les grands datasets (plus de 10 milliards de jetons) ne sont pas pris en charge en raison de la disponibilité du compute.
-
Pour la pré-formation continue, les charges de travail sont limitées aux fichiers de 60 à 256 Mo. Les fichiers plus volumineux que 1 Go peuvent allonger les temps de traitement.
-
Databricks s'efforce de rendre disponibles les derniers modèles à la pointe de la technologie pour la personnalisation en utilisant l'Affinement de modèle de fondation. À mesure que de nouveaux modèles deviennent disponibles, l'accès aux anciens modèles via l'API ou l'interface utilisateur pourrait être supprimé, les anciens modèles pourraient être dépréciés, ou les modèles pris en charge mis à jour. Voir la politique de maintenance des modèles d’IA générative.
-
Pour utiliser l'affinement de modèle de fondation avec un Workspace Databricks compatible AWS PrivateLink, le Workspace doit se trouver dans la région
us-west-2. -
Si vous avez configuré AWS PrivateLink sur votre stockage, Databricks vous recommande d'utiliser les tables Unity Catalog.
-
Si vous avez des pare-feu activés sur le compte de stockage qui stocke vos données dans Unity Catalog, vous devez autoriser le trafic des clusters de plan de données serverless de Databricks pour utiliser l'affinement du modèle de fondation. Contactez votre équipe de compte Databricks pour plus d'informations et d'éventuelles solutions personnalisées.