Featurization pour l'apprentissage par transfert
Cet article fournit un exemple de featurisation pour l’apprentissage par transfert à l’aide des UDF pandas.
Featurization pour l'apprentissage par transfert dans les modèles DL
Databricks prend en charge la vectorisation avec les modèles de deep learning. Les modèles de deep learning pré-entraînés peuvent être utilisés pour calculer des caractéristiques destinées à être utilisées dans d'autres modèles en aval. Databricks prend en charge la vectorisation à l'échelle, en distribuant le calcul sur un cluster. Vous pouvez effectuer la caractérisation avec les bibliothèques de deep learning incluses dans Databricks Runtime ML, notamment TensorFlow et PyTorch.
Databricks prend également en charge l'apprentissage par transfert, une technique étroitement liée à l'ingénierie de fonctionnalités. L'apprentissage par transfert vous permet de réutiliser les connaissances d'un domaine problématique dans un domaine connexe. L'ingénierie de fonctionnalités est elle-même une méthode simple et puissante pour l'apprentissage par transfert : le calcul des fonctionnalités à l'aide d'un modèle de deep learning pré-entraîné transfère des connaissances sur les bonnes fonctionnalités du domaine d'origine.
Étapes pour calculer des caractéristiques pour l'apprentissage par transfert
Cet article montre comment compute des fonctionnalités pour l'apprentissage par transfert à l'aide d'un modèle TensorFlow pré-entraîné, selon le workflow suivant :
- Start avec un modèle de deep learning pré-entraîné, dans ce cas un modèle de classification d'images de
tensorflow.keras.applications. - Tronquez la ou les dernières couches du modèle. Le modèle modifié produit un tenseur de fonctionnalités en sortie, plutôt qu'une prédiction.
- Appliquez ce modèle à un nouveau dataset d'images provenant d'un domaine de problème différent, en calculant les caractéristiques des images.
- Utilisez ces fonctionnalités pour entraîner un nouveau modèle. Le notebook suivant omet cette dernière étape. Pour des exemples d'entraînement d'un modèle simple tel que la régression logistique, consultez Entraîner les modèles d'IA et de ML.
Exemple : Utiliser les UDF pandas pour la caractérisation
Le Notebook suivant utilise des UDF pandas pour effectuer l'étape de featurisation. Les UDF pandas, et leur nouvelle variante UDF pandas d'itérateur scalaire, offrent des APIs flexibles, prennent en charge n'importe quelle bibliothèque de deep learning et offrent des performances élevées.