Início rápido do Notebook de AI Runtime
Visualização
Esse recurso está em Prévia Pública.
Use o AI Runtime para ir de um notebook vazio ao PyTorch em uma GPU com poucos cliques. Conecte um notebook ao Serverless GPU sem precisar configurar um cluster, e conte com monitoramento de GPU, um terminal no nó da GPU e o Genie Code integrado.
Antes de começar
O seu workspace deve ter o AI Runtime habilitado e estar em uma região compatível. Consulte Requisitos.
O passo 1: Anexar um notebook a uma GPU
- Crie ou abra um Notebooks.
- No menu suspenso de compute na parte superior do notebook, selecione Serverless GPU .
- No campo Accelerator , selecione 1xA10 .
- Clique em Aplicar e, em seguida, em Confirmar .
Comece com 1xA10 para desenvolvimento e cargas de trabalho pequenas. Mude para 1xH100 , 8xH100 ou 8xB300 quando precisar de mais memória de GPU ou treinamento distribuído com várias GPUs. Consulte Opções de hardware.
Passo 2: Execute seu primeiro código de GPU
O ambiente Databricks AI default vem com PyTorch, Transformers, vLLM, pandas e muitos outros pacotes pré-instalados. Para ver a lista completa, consulte o ambiente Databricks AI.
Execute o seguinte notebook para confirmar que a GPU está anexada e execute um treinamento o passo:
Notebook de início rápido do AI Runtime
Agora você está fazendo treinamento em compute de GPU serverless.
Explore o Notebook de GPU
O Notebook inclui ferramentas para ajudar você a trabalhar na GPU. Você pode alternar os ambientes de base, monitorar a utilização da GPU, abrir um terminal no nó da GPU e usar o Genie Code para escrever e depurar seu código.
Alternar ambientes
Clique em Environment no painel direito para escolher um ambiente base ou acelerador diferente. Consulte Configurar seu ambiente.
Monitorar a utilização da GPU
Clique em recursos de GPU no painel direito para ver a utilização de GPU e a memória em tempo real enquanto o seu código é executado. Consulte Monitorar recursos de GPU.
Abrir um terminal no nó de GPU
Clique em Terminal no canto inferior direito para obter um shell no nó de GPU. Execute nvidia-smi, inspecione arquivos ou depure processos diretamente. Consulte Executar comandos shell no terminal web do Databricks.
Deixe o Genie Code escrever e depurar para você
Clique em Genie Code no painel direito e descreva o que você deseja. O agente pode escrever código de treinamento, corrigir conflitos de dependência e depurar falhas de GPU. Consulte Usar o Genie Code com o AI Runtime.
Os passos seguintes
- Clone um notebook de ponta a ponta de notebooks de exemplo do AI Runtime.
- Escale em múltiplas GPUs com Distributed treinamento in Notebooks.