Grands modèles de langage (LLM)
Ces exemples servent à affiner et à post-entraîner de grands modèles de langage (LLM) sur AI Runtime. Ils couvrent des méthodes d’affinement efficaces en paramètres, telles que l’adaptation de bas rang (LoRA) et l’affinement supervisé complet, dans des bibliothèques comme TRL, Unsloth, Axolotl et LLM Foundry. Pour des exemples d’inférence par batch, consultez Inférence par batch.
Exemple | Interface | Description |
|---|---|---|
Notebook | Fine-tuning de pleine pondération de Qwen3.8-27B sur un seul nœud 8xB300 avec PyTorch Fully Sharded Data Parallel (FSDP2), en emballant les conversations dans des blocs de 32 768 jetons. | |
Notebook | Effectuez un post-entraînement de Gemma4-2B avec l’optimisation par politique relative au groupe (GRPO) et l’adaptation de bas rang (LoRA) sur un seul GPU H100 à l’aide d’Unsloth. | |
Notebook | Affinement complet des poids de Qwen3-4B sur un seul GPU H100 avec TRL, en utilisant la précision mixte BF16 et le gradient checkpointing. | |
Notebook | Effectuez l’affinement LoRA de Llama-3.2-3B sur un seul GPU avec la bibliothèque Unsloth. | |
Notebook | Affinement LoRA de GPT-OSS 20B sur 8 GPU H100 avec TRL et parallélisme de données distribué. | |
Notebook | Effectuez l'affinement complet des poids de Llama-3.2-1B sur 8 GPU H100 avec TRL et DeepSpeed ZeRO Stage 3. | |
Notebook | Affinement LoRA d'Olmo3 7B sur plusieurs GPU avec la bibliothèque Axolotl. | |
Notebook | Affinez Qwen3.5-0.8B sur un seul GPU H100 avec TRL, puis servez-le derrière un endpoint vLLM Model Serving. | |
Notebook | Affinement LoRA de Llama-3.2-3B sur plusieurs GPU avec la bibliothèque Unsloth. | |
Notebook | Affinement LoRA de GPT-OSS 120B sur 8 GPU H100 avec TRL, en utilisant DDP et FSDP. | |
Notebook | Entraînez les modèles Transformer à l'aide de PyTorch Fully Sharded Data Parallel (FSDP) pour répartir les paramètres de modèle sur plusieurs GPU. | |
CLI | Effectuez un affinement supervisé de Llama 3.1 8B avec PyTorch FSDP sur deux nœuds 8 × H100, journalisez la perte d’entraînement dans MLflow et enregistrez un point de contrôle consolidé. | |
CLI | Affinez Qwen3.8-27B avec PyTorch FSDP2 sur quatre nœuds 8x H100. | |
Affinement de tous les poids de Qwen3-8B pour l’extraction de factures | CLI | Affinez Qwen3-8B pour l’extraction d’entités de factures et de reçus avec TRL et DeepSpeed ZeRO-3 sur un nœud 8 × H100. |
CLI | Utilisez Ray Train pour affiner Qwen2.5-3B avec un Worker de parallélisme distribué des données par GPU sur un nœud équipé de 8 H100. | |
CLI | Utilisez Ray Tune et l’algorithme de réduction de moitié successive asynchrone (ASHA) pour rechercher des configurations LoRA sur quatre GPU A10 et journaliser la meilleure configuration dans MLflow. | |
Affinement de Longformer pour la classification de documents longs | CLI | Affinez Longformer avec LoRA pour la classification des sentiments sur de longs documents sur un GPU et enregistrez l'adaptateur dans un volume Unity Catalog. |
CLI | Affinez ModernBERT pour la classification par sujet sur un GPU A10 et enregistrez le modèle dans le Unity Catalog. | |
CLI | Affinez ModernBERT pour la classification par sujet avec PyTorch DDP sur un nœud 8x H100 et enregistrez le modèle dans le Unity Catalog. | |
CLI | Affinez Nemotron 3.5 Lightning avec NeMo AutoModel, FSDP2 et le parallélisme d'experts sur un nœud 8x H100. | |
CLI | Affinez le modèle vision-langage Nemotron 3.5 Super VL avec NeMo AutoModel et LoRA sur un nœud 8x H100. | |
CLI | Affinez Qwen2.5-0.5B avec LoRA, inscrivez le modèle Merge dans Unity Catalog et déployez-le sur le Model Serving personnalisé. |
Démo vidéo
Cette vidéo présente l’ affinement supervisé (LoRA) de Llama-3.2-3B exemple de notebook en détail (12 minutes).