Connecteur d’ingestion MySQL

info

Aperçu

Le connecteur MySQL est en préversion publique. Contactez votre équipe de compte Databricks pour demander l'accès.

Cette page vous aide à comprendre le processus d'ingestion MySQL, y compris les facteurs qui déterminent votre approche de configuration et les étapes impliquées pour différents profils d'utilisateurs.

Disponibilité des fonctionnalités

Fonctionnalité	Disponibilité
Conception de pipelines via l'interface utilisateur	Pris en charge
Création de pipeline par API	Pris en charge
Declarative Automation Bundles	Pris en charge
Ingestion incrémentielle	Pris en charge
Gouvernance Unity Catalog	Pris en charge
Orchestration à l'aide de Databricks Workflows	Pris en charge
SCD de type 2	Pris en charge
Sélection et désélection de colonnes via API	Pris en charge
Filtrage des lignes basé sur l'API	Non pris en charge
Évolution automatique des schémas : Nouvelles colonnes et colonnes supprimées	Pris en charge
Évolution automatisée des schémas : changements de type de données	Non pris en charge
évolution des schémas automatisée : Renommage de colonnes	Pris en charge Considéré comme une nouvelle colonne (nouveau nom) et une colonne supprimée (ancien nom).
Évolution des schémas automatisée : nouvelles tables	Pris en charge Si vous ingérez l’intégralité du schéma. Consulter les limites sur le nombre de tables par pipeline.
Nombre maximal de tables par pipeline	250

Fonctionnalité	Disponibilité
Conception de pipelines via l'interface utilisateur	Pris en charge
Création de pipeline par API	Pris en charge
Declarative Automation Bundles	Pris en charge
Ingestion incrémentielle	Pris en charge
Gouvernance Unity Catalog	Pris en charge
Orchestration à l'aide de Databricks Workflows	Pris en charge
SCD de type 2	Pris en charge
Sélection et désélection de colonnes via API	Pris en charge
Filtrage des lignes basé sur l'API	Non pris en charge
Évolution automatique des schémas : Nouvelles colonnes et colonnes supprimées	Pris en charge
Évolution automatisée des schémas : changements de type de données	Non pris en charge
évolution des schémas automatisée : Renommage de colonnes	Pris en charge Considéré comme une nouvelle colonne (nouveau nom) et une colonne supprimée (ancien nom).
Évolution des schémas automatisée : nouvelles tables	Pris en charge Si vous ingérez l’intégralité du schéma. Consulter les limites sur le nombre de tables par pipeline.
Nombre maximal de tables par pipeline	250

Méthodes d'authentification

Méthode d'authentification	Disponibilité
OAuth U2M	Non pris en charge
OAuth M2M	Non pris en charge
OAuth (jeton de refresh manuel)	Non pris en charge
Authentification de base (nom d’utilisateur/mot de passe)	Pris en charge
Authentification de base (clé API)	Non pris en charge
Authentification de base (clé JSON du compte de service)	Non pris en charge

Méthode d'authentification	Disponibilité
OAuth U2M	Non pris en charge
OAuth M2M	Non pris en charge
OAuth (jeton de refresh manuel)	Non pris en charge
Authentification de base (nom d’utilisateur/mot de passe)	Pris en charge
Authentification de base (clé API)	Non pris en charge
Authentification de base (clé JSON du compte de service)	Non pris en charge

Ce qu'il faut savoir avant de start

Sujet	Pourquoi c'est important
Profil d'utilisateur Databricks	Le workflow dépend de votre persona utilisateur Databricks : Utilisateur unique : un utilisateur administrateur configure la base de données source et crée une connexion Unity Catalog, une passerelle d'ingestion et un pipeline d'ingestion. Multi-utilisateur : Un utilisateur admin configure la base de données source et crée une connexion pour les utilisateurs non-admin afin qu’ils puissent créer des paires de passerelles-pipelines.
Environnement de déploiement	La configuration de la base de données source dépend de l'environnement de déploiement MySQL (Amazon RDS, Aurora MySQL, Azure Database for MySQL, Google Cloud SQL for MySQL ou MySQL sur EC2).
Méthode d'authentification	Les étapes de création d’une connexion dépendent de la méthode d’authentification que vous choisissez.
Interface	Les étapes pour créer une connexion, une passerelle et un pipeline dépendent de l'interface.
Fréquence d'ingestion	La planification du pipeline dépend de vos exigences en matière de latence et de coût.
Modèles courants	Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

Sujet	Pourquoi c'est important
Profil d'utilisateur Databricks	Le workflow dépend de votre persona utilisateur Databricks : Utilisateur unique : un utilisateur administrateur configure la base de données source et crée une connexion Unity Catalog, une passerelle d'ingestion et un pipeline d'ingestion. Multi-utilisateur : Un utilisateur admin configure la base de données source et crée une connexion pour les utilisateurs non-admin afin qu’ils puissent créer des paires de passerelles-pipelines.
Environnement de déploiement	La configuration de la base de données source dépend de l'environnement de déploiement MySQL (Amazon RDS, Aurora MySQL, Azure Database for MySQL, Google Cloud SQL for MySQL ou MySQL sur EC2).
Méthode d'authentification	Les étapes de création d’une connexion dépendent de la méthode d’authentification que vous choisissez.
Interface	Les étapes pour créer une connexion, une passerelle et un pipeline dépendent de l'interface.
Fréquence d'ingestion	La planification du pipeline dépend de vos exigences en matière de latence et de coût.
Modèles courants	Selon vos besoins d'ingestion, le pipeline peut utiliser des configurations comme le suivi de l'historique, la sélection de colonnes et le filtrage de lignes. Les configurations prises en charge varient selon le connecteur. Voir Disponibilité des fonctionnalités.

start l'ingestion depuis MySQL

Le tableau suivant fournit un aperçu du flux de travail d'ingestion MySQL de bout en bout, selon le type d'utilisateur :

Utilisateur	Étapes
Admin	Configurer MySQL pour l'ingestion dans Databricks. Soit : Utilisez l'Explorateur de catalogues pour créer une connexion afin que les non-administrateurs puissent créer des paires passerelle-pipeline. Voir Créer une connexion MySQL. Utilisez l'interface utilisateur d'ingestion de données pour créer une connexion, une passerelle et un pipeline. Consultez Créer un pipeline d'ingestion MySQL.
Non-administrateur	Utilisez toute interface prise en charge pour créer une passerelle et un pipeline. Consultez Créer un pipeline d'ingestion MySQL.

Utilisateur	Étapes
Admin	Configurer MySQL pour l'ingestion dans Databricks. Soit : Utilisez l'Explorateur de catalogues pour créer une connexion afin que les non-administrateurs puissent créer des paires passerelle-pipeline. Voir Créer une connexion MySQL. Utilisez l'interface utilisateur d'ingestion de données pour créer une connexion, une passerelle et un pipeline. Consultez Créer un pipeline d'ingestion MySQL.
Non-administrateur	Utilisez toute interface prise en charge pour créer une passerelle et un pipeline. Consultez Créer un pipeline d'ingestion MySQL.