Exemplos de HorovodRunner

Importante

Horovod e HorovodRunner agora estão obsoletos e não serão pré-instalados em Databricks Runtime 16.0 ML e acima. Para a aprendizagem profunda distribuída, a Databricks recomenda usar o TorchDistributor para treinamento distribuído com o PyTorch ou a API tf.distribute.Strategy para treinamento distribuído com o TensorFlow.

Os exemplos nesta seção demonstram como usar o HorovodRunner para realizar treinamento distribuído usando um modelo de redes neurais convolucionais (CNN) no dataset MNIST , um grande banco de dados de dígitos manuscritos.

• aprendizagem profunda usando TensorFlow com HorovodRunner para MNIST
• Adapte o PyTorch de nó único para aprendizado distribuído profundo