Connecteur d'importation PostgreSQL

info

Aperçu

Le connecteur PostgreSQL est en préversion publique. Contactez votre équipe de compte Databricks pour demander l'accès.

Cette page vous aide à comprendre le workflow d'ingestion PostgreSQL, y compris les facteurs qui déterminent votre approche de configuration et les étapes impliquées pour les différents profils d'utilisateurs.

important

Avant de créer un pipeline d’ingestion PostgreSQL, vous devez configurer la base de données source directement dans PostgreSQL : activer la réplication logique, créer un utilisateur de réplication et créer des publications et des emplacements de réplication. Terminez ces tâches d’abord. Voir Configurer PostgreSQL pour l’ingestion dans Databricks.

Disponibilité des fonctionnalités

Fonctionnalité	Disponibilité
Conception de pipelines via l'interface utilisateur	Pris en charge
Création de pipeline par API	Pris en charge
Declarative Automation Bundles	Pris en charge
Ingestion incrémentielle	Pris en charge
Gouvernance Unity Catalog	Pris en charge
Orchestration à l'aide de Databricks Workflows	Pris en charge
SCD de type 2	Pris en charge
Sélection et désélection de colonnes via API	Pris en charge
Filtrage des lignes basé sur l'API	Non pris en charge
Évolution automatique des schémas : Nouvelles colonnes et colonnes supprimées	Pris en charge
Évolution automatisée des schémas : changements de type de données	Non pris en charge
évolution des schémas automatisée : Renommage de colonnes	Non pris en charge Nécessite un full refresh.
Évolution des schémas automatisée : nouvelles tables	Pris en charge Si vous ingérez l’intégralité du schéma. Consulter les limites sur le nombre de tables par pipeline.
Nombre maximal de tables par pipeline	250

Fonctionnalité	Disponibilité
Conception de pipelines via l'interface utilisateur	Pris en charge
Création de pipeline par API	Pris en charge
Declarative Automation Bundles	Pris en charge
Ingestion incrémentielle	Pris en charge
Gouvernance Unity Catalog	Pris en charge
Orchestration à l'aide de Databricks Workflows	Pris en charge
SCD de type 2	Pris en charge
Sélection et désélection de colonnes via API	Pris en charge
Filtrage des lignes basé sur l'API	Non pris en charge
Évolution automatique des schémas : Nouvelles colonnes et colonnes supprimées	Pris en charge
Évolution automatisée des schémas : changements de type de données	Non pris en charge
évolution des schémas automatisée : Renommage de colonnes	Non pris en charge Nécessite un full refresh.
Évolution des schémas automatisée : nouvelles tables	Pris en charge Si vous ingérez l’intégralité du schéma. Consulter les limites sur le nombre de tables par pipeline.
Nombre maximal de tables par pipeline	250

Méthodes d'authentification

Méthode d'authentification	Disponibilité
OAuth U2M	Non pris en charge
OAuth M2M	Non pris en charge
OAuth (jeton de refresh manuel)	Non pris en charge
Authentification de base (nom d’utilisateur/mot de passe)	Pris en charge
Authentification de base (clé API)	Non pris en charge
Authentification de base (clé JSON du compte de service)	Non pris en charge

Méthode d'authentification	Disponibilité
OAuth U2M	Non pris en charge
OAuth M2M	Non pris en charge
OAuth (jeton de refresh manuel)	Non pris en charge
Authentification de base (nom d’utilisateur/mot de passe)	Pris en charge
Authentification de base (clé API)	Non pris en charge
Authentification de base (clé JSON du compte de service)	Non pris en charge

Ce qu'il faut savoir avant de start

Sujet	Pourquoi c'est important
Profil d'utilisateur Databricks	Le workflow dépend de votre persona utilisateur Databricks : Utilisateur unique : un utilisateur administrateur configure la base de données source et crée une connexion Unity Catalog, une passerelle d'ingestion et un pipeline d'ingestion. Multi-utilisateur : Un utilisateur admin configure la base de données source et crée une connexion pour les utilisateurs non-admin afin qu’ils puissent créer des paires de passerelles-pipelines.
Environnement de déploiement	La configuration de la base de données source dépend de l'environnement de déploiement PostgreSQL.
Méthode d'authentification	Les étapes de création d’une connexion dépendent de la méthode d’authentification que vous choisissez.
Interface	Les étapes pour créer une connexion, une passerelle et un pipeline dépendent de l'interface.
Fréquence d'ingestion	La planification du pipeline dépend de vos exigences en matière de latence et de coût.
Modèles courants	Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Sujet	Pourquoi c'est important
Profil d'utilisateur Databricks	Le workflow dépend de votre persona utilisateur Databricks : Utilisateur unique : un utilisateur administrateur configure la base de données source et crée une connexion Unity Catalog, une passerelle d'ingestion et un pipeline d'ingestion. Multi-utilisateur : Un utilisateur admin configure la base de données source et crée une connexion pour les utilisateurs non-admin afin qu’ils puissent créer des paires de passerelles-pipelines.
Environnement de déploiement	La configuration de la base de données source dépend de l'environnement de déploiement PostgreSQL.
Méthode d'authentification	Les étapes de création d’une connexion dépendent de la méthode d’authentification que vous choisissez.
Interface	Les étapes pour créer une connexion, une passerelle et un pipeline dépendent de l'interface.
Fréquence d'ingestion	La planification du pipeline dépend de vos exigences en matière de latence et de coût.
Modèles courants	Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Start l'ingestion depuis PostgreSQL

Le tableau suivant présente un aperçu du workflow d’ingestion PostgreSQL de bout en bout, basé sur le type d’utilisateur :

Utilisateur	Étapes
Admin	Configurez PostgreSQL pour l'ingestion dans Databricks. Soit : Utilisez l'Explorateur de catalogues pour créer une connexion afin que les non-administrateurs puissent créer des paires passerelle-pipeline. Consultez Créer une connexion PostgreSQL. Utilisez l'interface utilisateur d'ingestion de données pour créer une connexion, une passerelle et un pipeline. Consultez Ingérer des données depuis PostgreSQL.
Non-administrateur	Utilisez toute interface prise en charge pour créer une passerelle et un pipeline. Consultez Ingérer des données depuis PostgreSQL.

Utilisateur	Étapes
Admin	Configurez PostgreSQL pour l'ingestion dans Databricks. Soit : Utilisez l'Explorateur de catalogues pour créer une connexion afin que les non-administrateurs puissent créer des paires passerelle-pipeline. Consultez Créer une connexion PostgreSQL. Utilisez l'interface utilisateur d'ingestion de données pour créer une connexion, une passerelle et un pipeline. Consultez Ingérer des données depuis PostgreSQL.
Non-administrateur	Utilisez toute interface prise en charge pour créer une passerelle et un pipeline. Consultez Ingérer des données depuis PostgreSQL.