Referência do conector Cribl
Beta
Esse recurso está em Beta. Para usá-lo, um administrador de workspace deve ativar o Lakeflow Connect para Cribl na página Pré-visualizações . Consulte Gerenciar prévias do Databricks.
Esta página contém informações de referência sobre o conector gerenciado do Cribl, incluindo tabelas de origem suportadas e esquemas de tabela de destino.
Tabelas de origem compatíveis
O conector Cribl oferece compatibilidade com as seguintes tabelas de origem, todas sob o esquema de origem default. As tabelas com escopo de Grupo Worker são ingeridas de cada Grupo de Worker de Transmissão, Borda e Pesquisa no Workspace, a menos que você defina group_allowlist.
Tabela de origem | Chave primária | Descrição | Modo de sincronização | Campo do cursor |
|---|---|---|---|---|
|
| Grupos e flotas de worker para os produtos de Transmissão, Edge, Pesquisa e Outpost. | Somente refresh completo | |
|
| Workers e nós de borda para produtos de transmissão e borda. | Somente refresh completo | |
|
| Status de saúde do Líder do Workspace. | Somente refresh completo | |
|
| Pipelines em cada Worker Group. | Somente refresh completo | |
|
| Tabela de rotas em cada grupo de Worker. | Somente refresh completo | |
|
| Configurações de origem (entrada) em cada Grupo Worker. | Somente refresh completo | |
|
| Configurações de destino (saída) em cada grupo de worker. | Somente refresh completo | |
|
| Entradas da biblioteca de analisadores em cada Grupo de Worker. | Somente refresh completo | |
|
| Conjuntos de regras do Event Breaker em cada grupo de worker. | Somente refresh completo | |
|
| Arquivos de padrão Grok em cada Grupo de Worker. | Somente refresh completo | |
|
| Entradas da biblioteca de esquemas em cada Grupo de Workers. | Somente refresh completo | |
|
| Jobs de coletor em cada grupo de worker. | Somente refresh completo | |
|
| Conexões de banco de dados em cada Worker Group. | Somente refresh completo | |
|
| Pacotes instalados em cada Worker Group. | Somente refresh completo | |
|
| Status de saúde e métricas para cada origem em cada grupo de worker. | Somente refresh completo | |
|
| Status de saúde e métricas para cada Destino em cada Grupo de worker. | Somente refresh completo | |
|
| Funções disponíveis em cada Worker Group. | Somente refresh completo | |
|
| Workspace na Organização. | Somente refresh completo | |
|
| Credenciais de API na Organização. Os segredos do cliente não são ingeridos. | Somente refresh completo | |
|
| Eventos de log de auditoria do líder. | Incremental |
|
|
| Eventos de Logs de acesso da API do Leader. | Incremental |
|
Opções do conector
O conector Cribl é compatível com as seguintes opções no nível de pipeline. Para obter informações sobre o uso, consulte Exemplos.
Opção | Tipo | Escopo | Obrigatório | Aplica-se a | Descrição |
|---|---|---|---|---|---|
| String | Pipeline | Não | Todas as tabelas, exceto | Hostname da API do Cribl.Cloud Workspace, sem o esquema |
| String | Pipeline | Não |
| Hostname da API de gerenciamento Cribl.Cloud, sem o esquema |
| String | Pipeline | Não | Todas as tabelas com escopo de Worker Group | Lista separada por vírgula de IDs de Grupo de Worker a ingerir. default é todos os Grupos de Worker. |
| String | Pipeline | Não |
| Hora do log mais antiga para ingestão na primeira sincronização, no formato |
Esquemas de tabela de destino
worker_groups
key primária: product, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
workers
key primária: product, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
health
Primary key: host
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
pipelines
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
routes
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
sources
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
destinations
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
parsers
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
breakers
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
grok_patterns
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
schemas
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
collectors
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
database_connections
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
packs
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
inputs_status
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
outputs_status
key primária: group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
functions
key primária: worker_group, id
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
workspaces
Primary key: workspaceId
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
api_credentials
Primary key: clientId
Modo de sincronização: Apenas refresh completo
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
audit_log
key primária: time, event_id
Campo do cursor: time
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.
access_log
key primária: time, event_id
Campo do cursor: time
campo | Tipo de dados |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Esta tabela não suporta SCD tipo 2 porque possui colunas VARIANT.