Tabela de referência OpenTelemetry para ingestão Zerobus
Beta
Este recurso está em versão Beta.
Esta página fornece informações de referência para os esquemas de tabelas e mapeamento de dados do OpenTelemetry (OTLP) usados pelo Zerobus Ingest OTLP.
Esquema da tabela
Quando os dados OTLP chegam, o Zerobus Ingest converte cada registro da hierarquia aninhada de recursos/escopos/registros OTLP em uma linha plana e desnormalizada. Os atributos de recurso e as informações de escopo de instrumentação estão incorporados diretamente em cada linha, tornando os dados imediatamente consultáveis sem necessidade de junção.
Todos os campos de atributos (attributes, resource.attributes, instrumentation_scope.attributes, body para logs, metadata para métricas) são armazenados como colunas VARIANT . VARIANT é um tipo semiestruturado no Delta Lake que armazena dados JSON, preservando os tipos originais.
Cada registro é enriquecido com campos específicos do Databricks:
campo | Descrição | Origem |
|---|---|---|
| Um ID gerado pelo sistema para identificação única e classificação por ordem cronológica. | Gerado com base no tempo |
| Data e hora em microssegundos a partir da época Unix. | Timestamp (em microssegundos) derivado de |
| Coluna de partição de data, para filtragem eficiente por intervalo de tempo. | Derivado de |
| Coluna de nível superior para filtragem eficiente por nome de serviço, conforme definido na convenção semântica OTel. | Extraído de |
Mapeamento de esquema
O Zerobus Ingest mapeia os dados OTLP para as colunas da tabela Delta conforme descrito abaixo.
Desnormalização
No protocolo OTLP, os dados de telemetria são aninhados da seguinte forma.
ResourceSpans (or ResourceLogs, ResourceMetrics)
└── Resource (attributes, schema_url)
└── ScopeSpans (or ScopeLogs, ScopeMetrics)
└── InstrumentationScope (name, version, attributes)
└── Span (or LogRecord, Metric)
O Zerobus Ingest simplifica essa hierarquia, de forma que cada linha contenha o contexto completo:
resource: Uma estrutura contendo os atributos do recurso (comoVARIANT) edropped_attributes_count.resource_schema_url: O URL do esquema dos ResourceSpans, ResourceLogs ou ResourceMetrics que os contêm.instrumentation_scope: Uma estrutura contendo o nome do escopo, versão, atributos (comoVARIANT) edropped_attributes_count.span_schema_url/log_schema_url/metric_schema_url: O URL do esquema dos ScopeSpans, ScopeLogs ou ScopeMetrics que o contêm.
Codificação de ID
trace_id, span_id e parent_span_id são armazenados como strings codificadas em hexadecimal em letras minúsculas:
trace_idCadeias hexadecimais de 32 caracteres (16 bytes)span_idCadeias hexadecimais de 16 caracteres (8 bytes)
Codificação Enum
Os valores de enumeração (kind, status.code, aggregation_temporality, severity_number) são armazenados como seus nomes de string conforme definido na especificação OTLP. Por exemplo: SPAN_KIND_SERVER, STATUS_CODE_OK, AGGREGATION_TEMPORALITY_DELTA.
Próximos passos
- Configure os clientes OpenTelemetry (OTLP) para enviar dados ao Unity Catalog: Configure um SDK ou Collector do OpenTelemetry para enviar rastreamentos, logs e métricas ao Zerobus Ingest.
- Consultar dados do OpenTelemetry: Exemplos de consultas SQL para explorar seus dados de telemetria.
- Tratamento de erros de ingestão do Zerobus: Solução de problemas e códigos de erro comuns.
- Limitações do conector Zerobus Ingest: Consulte as taxas de transferência e os limites de retenção para o Zerobus Ingest.