Ingerir dados do OpenTelemetry com o Zerobus Ingest
Beta
Este recurso está em versão Beta.
O Zerobus Ingest OTLP é um endpoint nativo do protocolo OpenTelemetry (OTLP) integrado ao serviço Zerobus Ingest . Ele permite enviar rastreamentos, logs e métricas diretamente para as tabelas Delta Unity Catalog usando os SDKs e coletores padrão do OpenTelemetry, sem a necessidade de uma biblioteca personalizada.
Para configurar seu cliente OTLP para enviar dados ao Zerobus Ingest, consulte Configurar clientes OpenTelemetry (OTLP) para enviar dados ao Unity Catalog.
Conceitos
Os seguintes conceitos são úteis para entender como funciona o Zerobus Ingest OTLP.
Compatibilidade com OTLP
O Zerobus Ingest OTLP implementa o serviço coletor gRPC OTLP padrão, conforme definido pela especificação OpenTelemetry. Qualquer exportador compatível com OTLP (como os SDKs do OpenTelemetry, o OpenTelemetry Collector ou outras bibliotecas de instrumentação) pode enviar dados para este endpoint.
Sinais suportados
O Zerobus Ingest OTLP expõe três serviços OTLP/gRPC , um para cada tipo de sinal de telemetria:
Sinal | caminho do serviço gRPC |
|---|---|
Rastreamentos : Rastreamentos distribuídos com suporte completo para eventos, links e status. |
|
logs : registros de log com severidade, corpo e correlação com rastreamentos via |
|
métricas : Todos os cinco tipos de métricas OTLP: Medidor, Soma, Histograma, Histograma Exponencial e Resumo. |
|
Sucesso parcial
O Zerobus Ingest OTLP suporta sucesso parcial, conforme definido pela especificação OTLP. Se uma solicitação contiver uma mistura de registros válidos e inválidos, os registros válidos serão processados e os registros inválidos serão rejeitados. A resposta inclui a contagem de registros rejeitados (rejected_spans, rejected_log_records ou rejected_data_points) e um error_message descrevendo o motivo.
Compressão
A compressão Gzip é suportada em todos os três serviços OTLP. Defina o cabeçalho grpc-encoding para gzip ou configure seu exportador OTLP para usar compressão gzip.
Limitações
- Apenas o protocolo de transporte OTLP/gRPC (Protobuf) é suportado. O protocolo HTTP (Protobuf) ainda não é suportado.
- Cada solicitação tem como alvo uma tabela, especificada usando o cabeçalho
x-databricks-zerobus-table-name. Para ingerir rastreamentos, logs e métricas, configure exportadores separados apontando para tabelas diferentes. - As tabelas devem ser criadas antecipadamente com o esquema correto. O Zerobus Ingest não cria nem modifica tabelas.
- A cota default é de 10.000 solicitações por segundo. Caso necessite de uma quota maior, entre em contato com seu representante da Databricks.
- Para obter uma lista completa das limitações do Zerobus Ingest, consulte Limitações do conector Zerobus Ingest.
Próximos passos
- Configure os clientes OpenTelemetry (OTLP) para enviar dados ao Unity Catalog — exemplos Python e configuração do coletor OpenTelemetry.
- Referência da tabela OpenTelemetry para ingestão Zerobus — Esquemas de tabela e referência de mapeamento de dados.
- Consultar dados do OpenTelemetry — Exemplos de consultas SQL para spans, logs e métricas.
- Limitações do conector Zerobus Ingest