Início rápido do AI Runtime
A Databricks recomenda começar com a CLI do Databricks para execução sua primeira carga de trabalho do AI Runtime. A CLI do Databricks permite que você envie, monitore e gerencie cargas de trabalho de GPU serverless pelo seu terminal. Se você preferir notebooks, consulte Início rápido do Notebook do AI Runtime.
Requisitos
- Um workspace do Databricks com o AI Runtime habilitado. Consulte Requisitos.
- Git instalado e disponível em seu
PATHpara a execução do exemplo Python. A CLI usa Git para criar um pacote com o código local.
Execução sua primeira carga de trabalho
-
Instale ou atualize a CLI do Databricks e autentique-a no seu workspace. Consulte Instalar ou atualizar a CLI do Databricks e Autenticação para a CLI do Databricks.
Confirme se os comandos
airestão disponíveis:Bashdatabricks air --help -
Criar um arquivo de carga de trabalho mínima. O
workload.yamla seguir solicita uma GPU A10 e executa a execuçãonvidia-smipara imprimir o nome da GPU:YAMLexperiment_name: air-quickstartcompute:num_accelerators: 1accelerator_type: GPU_1xA10command: nvidia-smi --query-gpu=name --format=csv,noheader -
Envie a carga de trabalho e faça a transmissão de seus Logs com
databricks air run:Bashdatabricks air run --file workload.yaml --watchA CLI retorna o ID da execução do job e um link para a execução em seu workspace.
--watchmantém o terminal conectado e transmissão Logs até que a carga de trabalho termine.TextSubmitting experiment: air-quickstartSubmitted workload with Job Run ID: 783940125630184View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456Monitoring run and streaming logs......Environment setup completed at Thu Oct 1 14:23:45 UTC 2026NVIDIA A10
Para obter ajuda na criação da configuração da sua carga de trabalho e no gerenciamento de execuções, instale a habilidade databricks-ai-runtime para seu agente de AI. Consulte Usar habilidades de agente com AI Runtime.
Execute seu próprio código Python
Para fazer upload e execução do código Python local, crie um diretório air-quickstart com os seguintes arquivos:
air-quickstart/
├── workload.yaml
└── main.py
Para começar com um projeto executável em vez de criar esses arquivos manualmente, clone o repository do cookbook do AI Runtime e altere para o diretório de início rápido da CLI:
git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli
Use o código Python mínimo a seguir para verificar se o AI Runtime faz a execução do código de upload na GPU:
import torch
print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")
Para expandir este exemplo, você pode substituir main.py pelo seu próprio treinamento, inferência em lotes ou outro aplicativo de AI.
Use a seguinte configuração para workload.yaml:
experiment_name: python-quickstart
environment:
version: 6
dependencies:
- torch==2.11.0
compute:
num_accelerators: 1
accelerator_type: GPU_1xH100
code_source:
root_path: .
command: python "$CODE_SOURCE_PATH/main.py"
Essa configuração usa as seguintes definições e execução main.py em uma GPU H100:
environment.versionseleciona Ambiente padrão versão 6.environment.dependenciesinstala o PyTorch 2.11.0 no ambiente selecionado.root_path: .faz upload do diretório que contémworkload.yaml. No tempo de execução,$CODE_SOURCE_PATHaponta para o diretório upload.
Envie a carga de trabalho do diretório que contém workload.yaml:
databricks air run --file workload.yaml --watch
Os Logs de transmissão incluem:
...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3
Para a execução de treinamento completo, ajuste fino, inferência em lote e cargas de trabalho de Ray, clone o AI Runtime Cookbook e faça a execução de uma receita.
Para configurar ambientes, fontes de código, compute e outras configurações de workload, consulte Workload YAML reference.
Inspecione e monitore sua execução
A CLI imprime o ID da execução do Job quando você envia o workload. Use-o para inspecionar a execução:
databricks air get <job-run-id>
databricks air get mostra o status da execução, configuração e tempo. Ele também fornece links para a execução do Job e, quando disponível, para a execução do MLflow.
Para transmissão logs após o envio ou retomar uma transmissão interrompida, execução:
databricks air logs <job-run-id>
A CLI também fornece comandos para listar e inspecionar execuções, transmissão Logs e cancelar execuções ativas. Consulte a referência de comando air.
Referência
- Referência do YAML de Workload: Encontre campos de configuração de Workload e exemplos.
airreferência de comando: Encontre comandos e flags para enviar e gerenciar cargas de trabalho.