Aller au contenu principal

Connecteur Google Drive

Le connecteur Google Drive géré dans Lakeflow Connect vous permet d'ingérer des fichiers de Google Drive vers Databricks. Ingérez des fichiers non structurés en tant que données binaires, analysez les formats structurés (CSV, JSON, XML, EXCEL, et plus encore) dans des tables Delta, ou capturez les métadonnées des fichiers sans charger leur contenu.

Pour le connecteur Google Drive standard qui utilise les API de lecteur Spark (read_files, spark.read, Auto Loader), consultez Ingérer des fichiers depuis Google Drive.

Ce qu'il faut savoir avant de start

Sujet

Pourquoi c'est important

Privilèges de connexion

Pour créer une connexion, vous devez disposer du privilège CREATE CONNECTION sur le métastore. Pour créer un pipeline à partir d'une connexion existante, vous avez besoin du privilège USE CONNECTION ou de ALL PRIVILEGES sur la connexion.

Méthode d'authentification

Les étapes pour créer une connexion dépendent de la méthode d'authentification que vous sélectionnez.

Interface

Les étapes de création d'un pipeline dépendent de l'interface.

Fréquence d'ingestion

La planification du pipeline dépend de vos exigences en matière de latence et de coût.

Modèles courants

Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Sujet

Pourquoi c'est important

Privilèges de connexion

Pour créer une connexion, vous devez disposer du privilège CREATE CONNECTION sur le métastore. Pour créer un pipeline à partir d'une connexion existante, vous avez besoin du privilège USE CONNECTION ou de ALL PRIVILEGES sur la connexion.

Méthode d'authentification

Les étapes pour créer une connexion dépendent de la méthode d'authentification que vous sélectionnez.

Interface

Les étapes de création d'un pipeline dépendent de l'interface.

Fréquence d'ingestion

La planification du pipeline dépend de vos exigences en matière de latence et de coût.

Modèles courants

Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Start l'ingestion à partir de Google Drive

Le tableau suivant présente un aperçu du flux d’ingestion Google Drive de bout en bout, en fonction des privilèges de connexion :

Privilège requis

Étapes

CREATE CONNECTION on the metastore

  1. Configurer l'authentification Google Drive. Consultez Présentation de la configuration de l'ingestion Google Drive.
  2. Créer une connexion à Google Drive. Consultez Créer une connexion Google Drive.
  3. Créer un pipeline d’ingestion à partir de la connexion. Voir Ingérer des données depuis Google Drive.

USE CONNECTION ou ALL PRIVILEGES sur une connexion existante

Utilisez toute interface prise en charge pour créer un pipeline à partir d'une connexion existante. Voir Ingérer des données depuis Google Drive.

Privilège requis

Étapes

CREATE CONNECTION on the metastore

  1. Configurer l'authentification Google Drive. Consultez Présentation de la configuration de l'ingestion Google Drive.
  2. Créer une connexion à Google Drive. Consultez Créer une connexion Google Drive.
  3. Créer un pipeline d’ingestion à partir de la connexion. Voir Ingérer des données depuis Google Drive.

USE CONNECTION ou ALL PRIVILEGES sur une connexion existante

Utilisez toute interface prise en charge pour créer un pipeline à partir d'une connexion existante. Voir Ingérer des données depuis Google Drive.

Disponibilité des fonctionnalités

Fonctionnalité

Disponibilité

Conception de pipelines via l'interface utilisateur

Icône de coche verte Pris en charge

Création de pipeline par API

Icône de coche verte Pris en charge

Declarative Automation Bundles

Icône de coche verte Pris en charge

Ingestion incrémentielle

Icône de coche verte Pris en charge

Gouvernance Unity Catalog

Icône de coche verte Pris en charge

Orchestration à l'aide de Databricks Workflows

Icône de coche verte Pris en charge

SCD de type 2

Icône X rouge Non pris en charge

évolution des schémas

Icône de coche verte Pris en charge

Configurable via schema_evolution_mode. Consultez la référence du connecteur Google Drive.

Filtrage des lignes basé sur l'API

Icône de coche verte Pris en charge

Fonctionnalité

Disponibilité

Conception de pipelines via l'interface utilisateur

Icône de coche verte Pris en charge

Création de pipeline par API

Icône de coche verte Pris en charge

Declarative Automation Bundles

Icône de coche verte Pris en charge

Ingestion incrémentielle

Icône de coche verte Pris en charge

Gouvernance Unity Catalog

Icône de coche verte Pris en charge

Orchestration à l'aide de Databricks Workflows

Icône de coche verte Pris en charge

SCD de type 2

Icône X rouge Non pris en charge

évolution des schémas

Icône de coche verte Pris en charge

Configurable via schema_evolution_mode. Consultez la référence du connecteur Google Drive.

Filtrage des lignes basé sur l'API

Icône de coche verte Pris en charge

Méthodes d'authentification

Méthode d'authentification

Disponibilité

OAuth U2M : géré par Databricks

Icône de coche verte Pris en charge lorsqu’il est activé dans le workspace

Aucun projet Google Cloud ni enregistrement d’application requis. Si cette option n’est pas répertoriée, utilisez OAuth U2M: Custom-managed . Consultez Configure OAuth U2M: Databricks-managed for Google Drive ingestion.

OAuth U2M : géré par le client

Icône de coche verte Pris en charge

Utilise votre propre application Google Cloud. Voir Configurer OAuth U2M : géré par le client pour l’ingestion Google Drive.

Compte de service OAuth

Icône de coche verte Pris en charge

Utilise une clé de compte de service Google. Consultez Configurer un compte de service OAuth pour l’ingestion Google Drive.

Méthode d'authentification

Disponibilité

OAuth U2M : géré par Databricks

Icône de coche verte Pris en charge lorsqu’il est activé dans le workspace

Aucun projet Google Cloud ni enregistrement d’application requis. Si cette option n’est pas répertoriée, utilisez OAuth U2M: Custom-managed . Consultez Configure OAuth U2M: Databricks-managed for Google Drive ingestion.

OAuth U2M : géré par le client

Icône de coche verte Pris en charge

Utilise votre propre application Google Cloud. Voir Configurer OAuth U2M : géré par le client pour l’ingestion Google Drive.

Compte de service OAuth

Icône de coche verte Pris en charge

Utilise une clé de compte de service Google. Consultez Configurer un compte de service OAuth pour l’ingestion Google Drive.