シングルノードPyTorchを分散ディープラーニングに適応させる

PyTorch を使用して機械学習モデルの分散トレーニングを実行する方法について説明します。

このノートブックは、推奨される開発ワークフローに従います。最初に 1 つのノードでモデルをトレーニングする方法を示し、次に HorovodRunner を使用して分散トレーニングにコードを適応させる方法を示します。