Pular para o conteúdo principal
Última atualização em

Início rápido do notebook AI Runtime

Use o AI Runtime para ir de um notebook vazio ao PyTorch em uma GPU com apenas alguns cliques. Conecte um notebook a um Serverless GPU sem nenhum cluster para configurar e obtenha monitoramento de GPU, um terminal no nó de GPU e o Genie Code integrado.

Para escala o mesmo notebook em várias GPUs, consulte Treinamento distribuído em Notebooks.

Um notebook AI Runtime conectado à GPU Serverless, com chamadas para selecionar o tipo de GPU, configurar o ambiente, monitoramento, usar o agente para codificar e abrir um terminal.

Requisitos​

Seu workspace deve ter o AI Runtime habilitado e estar em uma região suportada. Consulte Requisitos.

o passo 1: anexar um notebook a uma GPU​

  1. Crie ou abra um notebook.
  2. No menu suspenso de compute na parte superior do notebook, selecione GPU Serverless .
  3. No campo Acelerador , selecione 1xA10 .
  4. Clique em Aplicar e, em seguida, em Confirmar .
dica

começar com 1xA10 para desenvolvimento e pequenas cargas de trabalho. Mude para 1xH100 , 8xH100 ou 8xB300 quando precisar de mais memória GPU ou treinamento distribuído com múltiplas GPUs. Consulte Opções de hardware.

O passo 2: execução do seu primeiro código GPU​

O ambiente Databricks AI default vem com PyTorch, Transformers, vLLM, pandas e muitos outros pacotes pré-instalados. Para a lista completa, consulte o ambiente Databricks AI.

Execute o seguinte notebook para confirmar que a GPU está anexada e execute o passo de treinamento:

Notebook de início rápido do AI Runtime

Abrir notebook em uma nova abaOpen in Databricks

Agora você está no treinamento de AI Runtime.

Explorar o Notebook de GPU​

O notebook vem com ferramentas para ajudá-lo a trabalhar na GPU. Você pode alternar os ambientes de base, monitorar a utilização da GPU, abrir um terminal no nó da GPU e usar o Genie Code para escrever e depurar seu código.

Alternar ambientes​

Clique em Ambiente no painel direito para escolher um ambiente base ou acelerador diferente. Consulte Configure seu ambiente.

O painel lateral Ambiente com o menu suspenso Ambiente base aberto, mostrando as versões padrão e AI do ambiente.

Monitorar o uso de GPU​

Clique em recursos de GPU no painel direito para ver a utilização da GPU e a memória em tempo real enquanto seu código está em execução. Consulte Monitorar recursos de GPU em tempo real.

O painel de recursos da GPU mostrando gráficos de utilização da GPU e uso de memória ao longo do tempo.

Abrir um terminal no nó de GPU​

Clique em Terminal no canto inferior direito para obter um shell no nó da GPU. Faça uma execução nvidia-smi, inspecione arquivos ou depure processos diretamente. Consulte Execução de comandos shell no web terminal do Databricks.

Um terminal web executando nvidia-smi em um nó de GPU H100.

Deixe o Genie Code escrever e depurar para você​

Clique em Genie Code no painel direito e descreva o que você deseja. O agente pode escrever códigos de treinamento, corrigir conflitos de dependência e depurar falhas de GPU. Veja Usar o Genie Code com Runtime de AI.

O painel do Genie Code com um prompt pedindo ao agente para corrigir um conflito da biblioteca torchao.

Próximos os passos​

Nesta página