Aller au contenu principal

Connecteur Google Drive

info

Bêta

Cette fonctionnalité est en Bêta. Les administrateurs du Workspace peuvent contrôler l'accès à cette fonctionnalité à partir de la page Previews . Consultez Gérer les aperçus Databricks.

Le connecteur Google Drive géré dans Lakeflow Connect vous permet d'ingérer des fichiers de Google Drive vers Databricks. Ingérez des fichiers non structurés en tant que données binaires, analysez les formats structurés (CSV, JSON, XML, EXCEL, et plus encore) dans des tables Delta, ou capturez les métadonnées des fichiers sans charger leur contenu.

Pour le connecteur Google Drive standard qui utilise les API de lecteur Spark (read_files, spark.read, Auto Loader), consultez Ingérer des fichiers depuis Google Drive.

Ce qu'il faut savoir avant de start

Sujet

Pourquoi c'est important

Profil d'utilisateur Databricks

Le workflow dépend de votre persona utilisateur Databricks :

  • Utilisateur unique : un utilisateur administrateur crée une connexion Unity Catalog et un pipeline d'ingestion.
  • Multi-utilisateur : un utilisateur administrateur crée une connexion pour les utilisateurs non administrateurs afin qu’ils puissent créer des pipelines.

Méthode d'authentification

Les étapes pour créer une connexion dépendent de la méthode d'authentification que vous sélectionnez.

Interface

Les étapes de création d'un pipeline dépendent de l'interface.

Fréquence d'ingestion

La planification du pipeline dépend de vos exigences en matière de latence et de coût.

Modèles courants

Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Sujet

Pourquoi c'est important

Profil d'utilisateur Databricks

Le workflow dépend de votre persona utilisateur Databricks :

  • Utilisateur unique : un utilisateur administrateur crée une connexion Unity Catalog et un pipeline d'ingestion.
  • Multi-utilisateur : un utilisateur administrateur crée une connexion pour les utilisateurs non administrateurs afin qu’ils puissent créer des pipelines.

Méthode d'authentification

Les étapes pour créer une connexion dépendent de la méthode d'authentification que vous sélectionnez.

Interface

Les étapes de création d'un pipeline dépendent de l'interface.

Fréquence d'ingestion

La planification du pipeline dépend de vos exigences en matière de latence et de coût.

Modèles courants

Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Start l'ingestion à partir de Google Drive

Le tableau suivant présente un aperçu du flux d'ingestion de bout en bout de Google Drive, basé sur le type d'utilisateur :

Utilisateur

Étapes

Administrateur

  1. Configurez OAuth 2.0 et créez une connexion Unity Catalog. Voir Configurer Google Drive pour l'ingestion gérée.
  2. Utilisez Catalog Explorer pour créer une connexion à Google Drive afin que les non-administrateurs puissent créer des pipelines. Consultez Connexion aux sources d'ingestion gérées.

Non-administrateur

Utilisez toute interface prise en charge pour créer un pipeline à partir d'une connexion existante. Voir Ingérer des données depuis Google Drive.

Utilisateur

Étapes

Administrateur

  1. Configurez OAuth 2.0 et créez une connexion Unity Catalog. Voir Configurer Google Drive pour l'ingestion gérée.
  2. Utilisez Catalog Explorer pour créer une connexion à Google Drive afin que les non-administrateurs puissent créer des pipelines. Consultez Connexion aux sources d'ingestion gérées.

Non-administrateur

Utilisez toute interface prise en charge pour créer un pipeline à partir d'une connexion existante. Voir Ingérer des données depuis Google Drive.

Disponibilité des fonctionnalités

Fonctionnalité

Disponibilité

Conception de pipelines via l'interface utilisateur

Icône de coche verte Pris en charge

Création de pipeline par API

Icône de coche verte Pris en charge

Declarative Automation Bundles

Icône de coche verte Pris en charge

Ingestion incrémentielle

Icône de coche verte Pris en charge

Gouvernance Unity Catalog

Icône de coche verte Pris en charge

Orchestration à l'aide de Databricks Workflows

Icône de coche verte Pris en charge

SCD de type 2

Icône X rouge Non pris en charge

évolution des schémas

Icône de coche verte Pris en charge

Configurable via schema_evolution_mode. Consultez la référence du connecteur Google Drive.

Sélection et désélection de colonnes via API

Icône X rouge Non pris en charge

Filtrage des lignes basé sur l'API

Icône X rouge Non pris en charge

Fonctionnalité

Disponibilité

Conception de pipelines via l'interface utilisateur

Icône de coche verte Pris en charge

Création de pipeline par API

Icône de coche verte Pris en charge

Declarative Automation Bundles

Icône de coche verte Pris en charge

Ingestion incrémentielle

Icône de coche verte Pris en charge

Gouvernance Unity Catalog

Icône de coche verte Pris en charge

Orchestration à l'aide de Databricks Workflows

Icône de coche verte Pris en charge

SCD de type 2

Icône X rouge Non pris en charge

évolution des schémas

Icône de coche verte Pris en charge

Configurable via schema_evolution_mode. Consultez la référence du connecteur Google Drive.

Sélection et désélection de colonnes via API

Icône X rouge Non pris en charge

Filtrage des lignes basé sur l'API

Icône X rouge Non pris en charge

Méthodes d'authentification

Méthode d'authentification

Disponibilité

OAuth U2M

Icône de coche verte Pris en charge

OAuth M2M

Icône X rouge Non pris en charge

OAuth (jeton de refresh manuel)

Icône X rouge Non pris en charge

Authentification de base (nom d’utilisateur/mot de passe)

Icône X rouge Non pris en charge

Authentification de base (clé API)

Icône X rouge Non pris en charge

Authentification de base (clé JSON du compte de service)

Icône X rouge Non pris en charge

Méthode d'authentification

Disponibilité

OAuth U2M

Icône de coche verte Pris en charge

OAuth M2M

Icône X rouge Non pris en charge

OAuth (jeton de refresh manuel)

Icône X rouge Non pris en charge

Authentification de base (nom d’utilisateur/mot de passe)

Icône X rouge Non pris en charge

Authentification de base (clé API)

Icône X rouge Non pris en charge

Authentification de base (clé JSON du compte de service)

Icône X rouge Non pris en charge