Pular para o conteúdo principal
Última atualização em

Início rápido do Notebook de AI Runtime

info

Visualização

Esse recurso está em Prévia Pública.

Use o AI Runtime para ir de um notebook vazio ao PyTorch em uma GPU com poucos cliques. Conecte um notebook ao Serverless GPU sem precisar configurar um cluster, e conte com monitoramento de GPU, um terminal no nó da GPU e o Genie Code integrado.

Um notebook do AI Runtime anexado ao Serverless GPU, com destaques para selecionar o tipo de GPU, configurar o ambiente, monitoramento da utilização, usar o agente para codificar e abrir um terminal.

Requisitos​

O seu workspace deve ter o AI Runtime habilitado e estar em uma região compatível. Consulte Requisitos.

O passo 1: Anexar um notebook a uma GPU​

  1. Crie ou abra um Notebooks.
  2. No menu suspenso de compute na parte superior do notebook, selecione Serverless GPU .
  3. No campo Accelerator , selecione 1xA10 .
  4. Clique em Aplicar e, em seguida, em Confirmar .
dica

Comece com 1xA10 para desenvolvimento e cargas de trabalho pequenas. Mude para 1xH100 , 8xH100 ou 8xB300 quando precisar de mais memória de GPU ou treinamento distribuído com várias GPUs. Consulte Opções de hardware.

Passo 2: Execute seu primeiro código de GPU​

O ambiente Databricks AI default vem com PyTorch, Transformers, vLLM, pandas e muitos outros pacotes pré-instalados. Para ver a lista completa, consulte o ambiente Databricks AI.

Execute o seguinte notebook para confirmar que a GPU está anexada e execute um treinamento o passo:

Notebook de início rápido do AI Runtime

Abrir notebook em uma nova abaOpen in Databricks

Agora você está fazendo treinamento em compute de GPU serverless.

Explore o Notebook de GPU​

O Notebook inclui ferramentas para ajudar você a trabalhar na GPU. Você pode alternar os ambientes de base, monitorar a utilização da GPU, abrir um terminal no nó da GPU e usar o Genie Code para escrever e depurar seu código.

Alternar ambientes​

Clique em Environment no painel direito para escolher um ambiente base ou acelerador diferente. Consulte Configurar seu ambiente.

O painel lateral Ambiente com o menu suspenso Ambiente base aberto, mostrando as versões de ambiente Standard e AI.

Monitorar a utilização da GPU​

Clique em recursos de GPU no painel direito para ver a utilização da GPU e da memória em tempo real enquanto seu código está em execução. Consulte Monitorar recursos de GPU em tempo real.

O pain de recursos de GPU mostrando gráficos de utilização de GPU e uso de memória ao longo do tempo.

Abrir um terminal no nó de GPU​

Clique em Terminal no canto inferior direito para obter um shell no nó de GPU. Execute nvidia-smi, inspecione arquivos ou depure processos diretamente. Consulte Executar comandos shell no terminal web do Databricks.

Um terminal web executando o nvidia-smi em um nó de GPU H100.

Deixe o Genie Code escrever e depurar para você​

Clique em Genie Code no painel direito e descreva o que você deseja. O agente pode escrever código de treinamento, corrigir conflitos de dependência e depurar falhas de GPU. Consulte Usar o Genie Code com o AI Runtime.

O painel do Genie Code com um prompt solicitando que o agente corrija um conflito da biblioteca torchao.

Os passos seguintes​

Nesta página