Pular para o conteúdo principal

Conector do Google Drive

O conector gerenciado do Google Drive no LakeFlow Connect permite ingerir arquivos do Google Drive no Databricks. Ingerir arquivos não estruturados como dados binários, analisar formatos estruturados (CSV, JSON, XML, EXCEL e muito mais) em tabelas Delta ou capturar metadados de arquivo sem carregar o conteúdo do arquivo.

Para o conector padrão do Google Drive que usa APIs do leitor Spark (read_files, spark.read, Auto Loader), consulte Ingerir arquivos do Google Drive.

O que saber antes de começar

tópico

Por que é importante

Connection privileges

To create a connection, you need the CREATE CONNECTION privilege on the metastore. To create a pipeline from an existing connection, you need the USE CONNECTION privilege or ALL PRIVILEGES on the connection.

Método de autenticação

Os passos para criar uma conexão dependem do método de autenticação que for selecionado.

Interface

Os passos para criar um pipeline dependem da interface.

Frequência de ingestão

O agendamento do pipeline depende de seus requisitos de latência e custo.

Padrões comuns

Dependendo das suas necessidades de ingestão, o pipeline pode usar configurações como acompanhamento de história, seleção de coluna e filtragem de linha. Configurações compatíveis variam de acordo com o conector. Consulte Disponibilidade do recurso.

tópico

Por que é importante

Connection privileges

To create a connection, you need the CREATE CONNECTION privilege on the metastore. To create a pipeline from an existing connection, you need the USE CONNECTION privilege or ALL PRIVILEGES on the connection.

Método de autenticação

Os passos para criar uma conexão dependem do método de autenticação que for selecionado.

Interface

Os passos para criar um pipeline dependem da interface.

Frequência de ingestão

O agendamento do pipeline depende de seus requisitos de latência e custo.

Padrões comuns

Dependendo das suas necessidades de ingestão, o pipeline pode usar configurações como acompanhamento de história, seleção de coluna e filtragem de linha. Configurações compatíveis variam de acordo com o conector. Consulte Disponibilidade do recurso.

Começar a ingerir do Google Drive

A tabela a seguir apresenta uma visão geral do fluxo de ingestão de ponta a ponta do Google Drive, com base nos privilégios de conexão:

Privilégio necessário

os passos

CREATE CONNECTION no metastore

  1. Configure Google Drive authentication. See Overview of Google Drive ingestion setup.
  2. Crie uma conexão com o Google Drive. Consulte Criar uma conexão do Google Drive.
  3. Criar um pipeline de ingestão a partir da conexão. Consulte Ingerir dados do Google Drive.

USE CONNECTION or ALL PRIVILEGES on an existing connection

Use qualquer interface compatível para criar um pipeline a partir de uma conexão existente. Consulte Ingerir dados do Google Drive.

Privilégio necessário

os passos

CREATE CONNECTION no metastore

  1. Configure Google Drive authentication. See Overview of Google Drive ingestion setup.
  2. Crie uma conexão com o Google Drive. Consulte Criar uma conexão do Google Drive.
  3. Criar um pipeline de ingestão a partir da conexão. Consulte Ingerir dados do Google Drive.

USE CONNECTION or ALL PRIVILEGES on an existing connection

Use qualquer interface compatível para criar um pipeline a partir de uma conexão existente. Consulte Ingerir dados do Google Drive.

Disponibilidade de recursos

Recurso

Disponibilidade

Criação de pipelines via interface do usuário

Ícone de marca de verificação verde Compatível

Criação de pipelines baseada em API

Ícone de marca de verificação verde Compatível

Pacotes de Automação Declarativa

Ícone de marca de verificação verde Compatível

Ingestão incremental

Ícone de marca de verificação verde Compatível

Governança do Unity Catalog

Ícone de marca de verificação verde Compatível

Orquestração com o Databricks Workflows

Ícone de marca de verificação verde Compatível

SCD tipo 2

Ícone X vermelho Não suportado

evolução do esquema

Ícone de marca de verificação verde Compatível

Configurável via schema_evolution_mode. Consulte a referência do conector do Google Drive.

Filtragem de linhas baseada em API

Ícone de marca de verificação verde Compatível

Recurso

Disponibilidade

Criação de pipelines via interface do usuário

Ícone de marca de verificação verde Compatível

Criação de pipelines baseada em API

Ícone de marca de verificação verde Compatível

Pacotes de Automação Declarativa

Ícone de marca de verificação verde Compatível

Ingestão incremental

Ícone de marca de verificação verde Compatível

Governança do Unity Catalog

Ícone de marca de verificação verde Compatível

Orquestração com o Databricks Workflows

Ícone de marca de verificação verde Compatível

SCD tipo 2

Ícone X vermelho Não suportado

evolução do esquema

Ícone de marca de verificação verde Compatível

Configurável via schema_evolution_mode. Consulte a referência do conector do Google Drive.

Filtragem de linhas baseada em API

Ícone de marca de verificação verde Compatível

Métodos de autenticação

Método de autenticação

Disponibilidade

OAuth U2M: gerenciado pela Databricks

Ícone de marca de verificação verde Suportado quando ativado no workspace

Nenhum projeto ou registro de aplicativo do Google Cloud necessário. Se esta opção não estiver listada, use OAuth U2M: gerenciado pelo usuário . Consulte Configurar o OAuth U2M: gerenciado pela Databricks para ingestão do Google Drive.

OAuth U2M: gerenciado de forma personalizada

Ícone de marca de verificação verde Compatível

Usa seu próprio aplicativo do Google Cloud. Consulte Configurar OAuth U2M: gerenciado de forma personalizada para ingestão do Google Drive.

account de serviço OAuth

Ícone de marca de verificação verde Compatível

Usa uma Google account key de serviço. Consulte Configurar uma account de serviço OAuth para ingestão do Google Drive.

Método de autenticação

Disponibilidade

OAuth U2M: gerenciado pela Databricks

Ícone de marca de verificação verde Suportado quando ativado no workspace

Nenhum projeto ou registro de aplicativo do Google Cloud necessário. Se esta opção não estiver listada, use OAuth U2M: gerenciado pelo usuário . Consulte Configurar o OAuth U2M: gerenciado pela Databricks para ingestão do Google Drive.

OAuth U2M: gerenciado de forma personalizada

Ícone de marca de verificação verde Compatível

Usa seu próprio aplicativo do Google Cloud. Consulte Configurar OAuth U2M: gerenciado de forma personalizada para ingestão do Google Drive.

account de serviço OAuth

Ícone de marca de verificação verde Compatível

Usa uma Google account key de serviço. Consulte Configurar uma account de serviço OAuth para ingestão do Google Drive.