大規模言語モデル（LLM）
プレビュー
この機能は パブリック プレビュー段階です。
これらの例では、AI ランタイム上で大規模言語モデル（LLM）のファインチューニングとポストトレーニングを行います。TRL、Unsloth、Axolotl、LLM Foundryなどのライブラリ全体で、LoRA（Low-Rank Adaptation）などのパラメーター効率の良い手法や、完全教師ありファインチューニングを扱います。バッチ推論の例については、バッチ推論を参照してください。
例 | インターフェース | 説明 |
|---|---|---|
ノートブック | Unsloth を使用し、単一の H100 GPU 上で Group Relative Policy Optimization（GRPO）および Low-Rank Adaptation（LoRA）を使用して Gemma4-2B をポストトレーニングします。 | |
ノートブック | TRL を使用し、BF16 混合精度と勾配チェックポイントを適用して、単一の H100 GPU で Qwen3-4B をフルウェイトでファインチューニングします。 | |
ノートブック | Unsloth ライブラリを使用して、単一の GPU で Llama-3.2-3B を LoRA ファインチューニングします。 | |
ノートブック | TRLと分散データ並列処理を使用して、8基のH100 GPUでGPT-OSS 20BをLoRAファインチューニングします。 | |
ノートブック | TRL および DeepSpeed ZeRO Stage 3 を使用し、8基の H100 GPU で Llama-3.2-1B のフルウェイトファインチューニングを実行します。 | |
ノートブック | Axolotl ライブラリを使用して、複数 GPU で Olmo3 7B を LoRA ファインチューニングします。 | |
ノートブック | TRL を使用して単一の H100 GPU で Qwen3.5-0.8B をファインチューニングし、vLLM Model Serving Endpoint 経由でサービングします。 | |
ノートブック | Llama-3.2-3B の LoRA ファインチューニングUnsloth ライブラリを使用して複数の GPU 間で | |
ノートブック | TRL、DDP、FSDPを使用して、8基のH100 GPU上でGPT-OSS 120BのLoRAファインチューニングを実行します。 | |
ノートブック | PyTorch Fully Sharded Data Parallel (FSDP) を使用して、複数の GPU にわたってモデルをシャード化するTransformerモデルをトレーニングします。 | |
CLI | 2つの 8x H100 ノード間で PyTorch FSDP を使用して Llama 3.1 8B の教師ありファインチューニングを実行し、トレーニング損失を MLflow にログに記録し、統合されたチェックポイントを保存します。 | |
CLI | 8×H100ノード4台で、PyTorch FSDP2を使用してQwen3.8-27Bの教師ありファインチューニングを行います。 | |
CLI | 1つの 8x H100 ノード上で TRL と DeepSpeed ZeRO-3 を使用して、請求書および領収書のエンティティ抽出用に Qwen3-8B をファインチューニングします。 | |
CLI | 8×H100ノード上でGPUごとに分散データ並列ワーカーを1つ配置し、Ray Trainを使用してQwen2.5-3Bをファインチューニングします。 | |
CLI | Ray Tune と非同期連続二分探索アルゴリズム（ASHA）を使用して、4つの A10 GPU 間で LoRA 構成を検索し、最適な構成を MLflow にログに記録します。 |
ビデオデモ
この動画では、Llama-3.2-3B の教師ありファインチューニング（LoRA）について順を追って説明します詳細なサンプルノートブック (12分)。