Référence du connecteur Cribl
Bêta
Cette fonctionnalité est en version bêta. Pour l'utiliser, un administrateur de workspace doit activer Lakeflow Connect pour Cribl à partir de la page Previews . Consultez Gérer les aperçus Databricks.
Cette page contient des informations de référence sur le connecteur Cribl géré, y compris les tables sources et les schémas de table de destination pris en charge.
Tables sources prises en charge
Le connecteur Cribl prend en charge les tables source suivantes, toutes sous le schéma source default. Les tables associées à un groupe de Worker ingèrent des données depuis chaque groupe de Worker Stream, Edge et Search du Workspace, à moins que vous ne définissiez group_allowlist.
Table source | Clé primaire | Description | Mode de synchronisation | Champ du curseur |
|---|---|---|---|---|
|
| Groupes et flottes de Worker pour les produits Stream, Edge, Search et Outpost. | Refresh complète uniquement | |
|
| Worker et nœuds de périphérie pour les produits Stream et Edge. | Refresh complète uniquement | |
|
| État de santé du Leader du Workspace. | Refresh complète uniquement | |
|
| Pipelines dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Table de routage dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Configurations de source (entrée) dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Configurations de destination (sortie) dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Entrées de la bibliothèque de l’analyseur dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Ensembles de règles Event Breaker dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Fichiers de modèle Grok dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Entrées de bibliothèque de schémas dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Job de collecteur dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Connexions à la base de données dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Packs installés dans chaque Worker Group. | Refresh complète uniquement | |
|
| État de santé et métriques pour chaque source dans chaque groupe de worker. | Refresh complète uniquement | |
|
| État de santé et métriques pour chaque destination dans chaque groupe de Worker. | Refresh complète uniquement | |
|
| Fonctions disponibles dans chaque groupe Worker. | Refresh complète uniquement | |
|
| Workspace dans l’organisation. | Refresh complète uniquement | |
|
| Identifiants d'API dans l'organisation. Les secrets client ne sont pas ingérés. | Refresh complète uniquement | |
|
| Événements de Logs d’audit leader. | Incrémentiel |
|
|
| Événements de journal d’accès de l’API Leader. | Incrémentiel |
|
Options du connecteur
Le connecteur Cribl prend en charge les options de niveau pipeline suivantes. Pour l'utilisation, voir Exemples.
Option | Type | Portée | Obligatoire | S'applique à | Description |
|---|---|---|---|---|---|
| Chaîne | Pipeline | Non | Toutes les tables sauf | Hostname de l'API Cribl.Cloud Workspace, sans le schéma |
| Chaîne | Pipeline | Non |
| Hostname de l’API de gestion Cribl.Cloud, sans le schéma |
| Chaîne | Pipeline | Non | Toutes les tables avec une portée de Worker Group | Liste d'identifiants de groupes Worker séparés par des virgules à ingérer. default, tous les groupes de Worker. |
| Chaîne | Pipeline | Non |
| Heure de log la plus ancienne à ingérer lors de la première synchronisation, au format |
Schémas de table de destination
worker_groups
Clé principale : product, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
workers
Clé principale : product, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
health
Clé primaire : host
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
pipelines
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
routes
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
sources
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
destinations
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
parsers
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
breakers
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
grok_patterns
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
schemas
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
collectors
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
database_connections
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
packs
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
inputs_status
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
outputs_status
Clé principale : group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
functions
Clé principale : worker_group, id
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
workspaces
Clé primaire : workspaceId
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
api_credentials
Clé primaire : clientId
Mode de synchronisation : refresh complète uniquement
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
audit_log
Clé principale : time, event_id
Champ de curseur : time
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.
access_log
Clé principale : time, event_id
Champ de curseur : time
Champ | Type de données |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Cette table ne prend pas en charge le SCD de type 2 car elle comporte des colonnes VARIANT.