GPU sem servidor compute
Beta
Esse recurso está na versão beta.
Este artigo descreve a serverless GPU compute em Databricks e fornece casos de uso recomendados, orientação sobre como configurar a GPU compute recurso e limitações de recurso.
O que é serverless GPU compute?
GPU sem servidor compute faz parte da oferta sem servidor compute. A GPU sem servidor compute é especializada em cargas de trabalho personalizadas de aprendizagem profunda de um ou vários nós. O senhor pode usar a GPU serverless compute para treinar e ajustar modelos personalizados usando suas estruturas favoritas e obter eficiência, desempenho e qualidade de última geração.
GPU sem servidor compute inclui:
- Uma experiência integrada no Notebook, Unity Catalog e MLflow : O senhor pode desenvolver seu código de forma interativa usando o Notebook.
- GPU sem servidor compute suporta A10s .
O pacote pré-instalado no serverless GPU compute não substitui o Databricks Runtime ML. Embora haja um pacote comum, nem todas as dependências e biblioteca do Databricks Runtime ML são refletidas no ambiente do serverless GPU compute.
Casos de uso recomendados
Databricks recomenda a serverless GPU compute para qualquer caso de uso de treinamento de modelo que exija personalizações de treinamento e GPUs.
Por exemplo:
- Cargas de trabalho de previsão baseadas em aprendizagem profunda
- Ajuste fino
- computador vision
- Áudio do computador
- Sistemas de recomendação
Requisitos
- Um workspace em
us-west-2ouus-east-1
O que está instalado
A GPU sem servidor compute para Notebook usa versões de ambiente, que fornecem um cliente estável API para garantir a compatibilidade do aplicativo. Isso permite que a Databricks atualize o servidor de forma independente, oferecendo melhorias de desempenho, aprimoramentos de segurança e correções de bugs sem exigir nenhuma alteração de código nas cargas de trabalho.
GPU sem servidor compute usa a versão 3 do ambiente , além do pacote a seguir:
CUDA 12.4torch 2.6.0torchvision 0.21.0
Consulte o site serverless compute notas sobre a versão para obter o pacote incluído na versão 3 do ambiente do sistema.
Os ambientes básicos não são compatíveis com a GPU serverless compute. Para configurar o serverless GPU compute em seu ambiente, especifique as dependências diretamente no painel lateral Environments ou pip install.
Adicionar biblioteca ao ambiente
O senhor pode instalar uma biblioteca adicional no ambiente serverless GPU compute. Consulte Adicionar dependências ao Notebook.
Configurar serverless GPU compute
O senhor pode optar por usar uma GPU serverless compute do ambiente Notebook em seu workspace.
Depois que o senhor abrir o Notebook:
- Selecione o
para abrir o painel lateral Ambiente . - Selecione A10 no campo Acelerador .
- Selecione 3 como a versão do ambiente .
- Selecione Apply e, em seguida, confirme que deseja aplicar a GPU serverless compute ao ambiente do Notebook. Depois de se conectar a um recurso, o Notebook começa imediatamente a usar o compute disponível.
A conexão com o site compute é encerrada automaticamente após 60 minutos de inatividade.
Limitações
- GPU sem servidor compute suporta apenas A10 compute.
- O PrivateLink não é suportado. Armazenamento ou repositórios pip por trás do PrivateLink não são suportados.
- A GPU sem servidor compute não é compatível com o espaço de trabalho do perfil de segurança compliance (como HIPAA ou PCT) . O processamento de dados regulamentados não é suportado no momento.
- programar Job em GPU sem servidor compute não é suportado. Os usuários não devem programar o Notebook que tenha uma GPU sem servidor compute anexada na UI de Databricks Jobs.
- A GPU sem servidor compute é compatível apenas com ambientes interativos.
Notebook exemplo
O Notebook a seguir fornece um exemplo simples de como executar aprendizagem profunda treinamento usando PyTorch e serverless GPU compute.