Configurer l'emplacement de stockage des résultats du Notebook
Les exigences de confidentialité de votre organisation peuvent vous obliger à stocker tous les résultats de Notebook interactifs dans le compartiment de stockage du Workspace de votre compte cloud, plutôt que l'emplacement par default du plan de contrôle géré par Databricks où certains résultats de commande de Notebook sont stockés.
La sortie de commande du notebook est stockée différemment selon la manière dont vous exécutez le notebook.
By default, lorsque vous exécutez un Notebook de manière interactive en cliquant sur Run dans le Notebook :
- Si les résultats sont petits, ils sont stockés dans le plan de contrôle Databricks, avec le contenu des commandes et les métadonnées du Notebook.
- Les résultats plus volumineux sont stockés dans le compartiment de stockage du workspace dans votre compte AWS. Databricks utilise ce compartiment pour les données système du Workspace et la racine DBFS de votre Workspace. Les résultats du Notebook sont stockés dans la partie données système du compartiment du workspace, qui n'est pas accessible aux utilisateurs. Consultez Stockage du workspace.
Lorsque vous exécutez un Notebook en tant que Job, en le planifiant ou en cliquant sur **Exécuter maintenant** sur la page Jobs, tous les résultats sont stockés dans le compartiment de stockage du Workspace de votre compte.
Vous pouvez configurer votre Workspace pour stocker tous les résultats du notebook interactif dans votre compte cloud, quelle que soit la taille du résultat.
Configurez l’emplacement de stockage pour les résultats des Notebooks interactifs
Vous pouvez configurer votre Workspace pour stocker tous les résultats de Notebook interactifs dans votre compte AWS, plutôt que dans le plan de contrôle. Vous pouvez activer cette fonctionnalité à l’aide de la page des paramètres d’administration ou de l’ API REST. Cette configuration n'a aucun effet sur les notebooks exécutés en tant que jobs, dont les résultats sont déjà stockés dans votre compte AWS default.
Gardez à l'esprit les points suivants :
- Les modifications apportées à cette configuration ne sont effectives que pour les nouveaux résultats. Les résultats de Notebook existants ne sont pas déplacés.
- Certaines métadonnées relatives aux résultats, telles que les noms des colonnes du graphique, continuent d'être stockées dans le plan de contrôle.
- Des coûts de stockage accrus peuvent être facturés par votre fournisseur cloud.
- Une latence accrue du réseau et des E/S peut survenir lors de la lecture et de l'écriture des résultats.
Stocker tous les résultats du Notebook dans votre compte à l'aide de la page des paramètres d'administration.
En tant qu’administrateur de workspace :
- Accédez à la page de paramètres.
- Cliquez sur l'onglet **Security** tab.
- Cliquez sur le bouton à bascule Stocker les résultats interactifs du notebook dans le compte client .
Stocker tous les résultats de notebook dans votre compte à l'aide de l'API REST
Pour configurer votre Workspace afin de stocker tous les résultats de Notebook dans votre compte AWS à l'aide de l'API REST :
- Vous devez être un administrateur de workspace.
- Vous avez besoin d’un jeton d’accès personnel. Les instructions suivantes supposent que vous avez configuré un fichier
.netrcavec votre jeton d'accès personnel afin que vous puissiez utiliser l'option-ndans les commandescurl. Consultez l'article mentionné ci-dessus pour plus de détails.
Pour obtenir le paramètre actuel, appelez l'Endpoint GET /workspace-conf et définissez keys sur storeInteractiveNotebookResultsInCustomerAccount:
curl -n --request GET \
'https://<databricks-instance>/api/2.0/workspace-conf?keys=storeInteractiveNotebookResultsInCustomerAccount'
Pour permettre à votre Workspace de stocker les résultats interactifs du Notebook dans votre compte AWS, appelez le Endpoint PATCH /workspace-conf et définissez storeInteractiveNotebookResultsInCustomerAccount sur true dans le corps de la requête :
curl -n --request PATCH \
'https://<databricks-instance>/api/2.0/workspace-conf' \
--header 'Content-Type: text/plain' \
--data-raw '{
"storeInteractiveNotebookResultsInCustomerAccount": "true"
}'
Pour désactiver la fonctionnalité, définissez le même indicateur sur false:
curl -n --request PATCH \
'https://<databricks-instance>/api/2.0/workspace-conf' \
--header 'Content-Type: text/plain' \
--data-raw '{
"storeInteractiveNotebookResultsInCustomerAccount": "false"
}'