Conector do RabbitMQ
Beta
Este recurso está em Beta. Os administradores do espaço de trabalho podem controlar o acesso a esse recurso na página Pré-visualizações . Consulte Gerenciar prévias do Databricks.
O conector gerenciado do RabbitMQ no LakeFlow Connect permite transmitir mensagens de filas clássicas do RabbitMQ para tabelas de transmissão no Databricks. O conector fornece semântica de entrega pelo menos uma vez e gerencia autenticação, decodificação de mensagens, reconhecimento e gerenciamento do ciclo de vida do pipeline, para que não precise escrever código de transmissão estructurada diretamente.
Componentes do conector RabbitMQ
Componente | Descrição |
|---|---|
Conexão | Um objeto protegível do Unity Catalog que armazena o endpoint do agente e as credenciais de autenticação para o seu agente RabbitMQ. O conector RabbitMQ gerenciado utiliza esta conexão para se autenticar sem exigir credenciais na configuração do seu pipeline. |
Pipeline de ingestão | Um pipeline que consome continuamente mensagens de uma ou mais filas clássicas do RabbitMQ e grava os resultados em tabelas de transmissão. O pipeline executa em compute serverless. |
Tabelas de destino | As tabelas de transmissão onde o pipeline de ingestão grava os dados. |
Começar a ingerir de RabbitMQ
A tabela a seguir fornece uma visão geral do fluxo de ingestão de ponta a ponta do RabbitMQ, com base no tipo de usuário:
Usuário | os passos |
|---|---|
Administrador | Use o Catalog Explorer para criar uma conexão para que qualquer usuário com |
Não administrador | Use qualquer interface compatível para criar um pipeline a partir de uma conexão existente. Consulte Ingerir dados do RabbitMQ. |
Disponibilidade de recursos
Recurso | Disponibilidade |
|---|---|
Criação de pipelines via interface do usuário |
|
Criação de pipelines baseada em API |
|
Pacotes de Automação Declarativa |
|
Ingestão contínua de transmissão |
|
Governança do Unity Catalog |
|
Orquestração com o Databricks Workflows |
|
SCD tipo 2 |
|
Seleção e desseleção de coluna |
|
Filtragem de linha |
|
Métodos de autenticação
Método de autenticação | Disponibilidade |
|---|---|
Nome de usuário e senha |
|
Credencial de serviço |
|
OAuth U2M |
|
OAuth M2M |
|