Cribl コネクタ リファレンス
ベータ版
この機能はベータ版です。使用するには、ワークスペース管理者は [プレビュー] ページから Cribl 用 Lakeflow Connect を有効にする必要があります。Databricksのプレビューの管理を参照してください。
このページには、サポートされているソーステーブルや宛先テーブルのスキーマなど、マネージドCriblコネクタの参照情報が記載されています。
サポートされているソーステーブル
Cribl コネクタは、default ソーススキーマの下にある次のソーステーブルをサポートします。ワーカーグループスコープのテーブルは、group_allowlist を設定しない限り、ワークスペース内のすべてのストリーム、エッジ、および検索ワーカーグループから取り込みます。
ソーステーブル | プライマリーキー | 説明 | 同期モード | カーソルフィールド |
|---|---|---|---|---|
|
| ストリーム、エッジ、検索、およびアウトポスト製品のワーカーグループおよびフリート。 | フル更新のみ | |
|
| ストリームおよびエッジ製品のワーカーおよびエッジノード。 | フル更新のみ | |
|
| ワークスペースリーダーの健全性ステータス。 | フル更新のみ | |
|
| 各ワーカーグループのパイプライン。 | フル更新のみ | |
|
| 各ワーカーグループのルーティングテーブル。 | フル更新のみ | |
|
| 各ワーカーグループのソース(入力)構成。 | フル更新のみ | |
|
| 各ワーカーグループの出力(送信先)構成。 | フル更新のみ | |
|
| 各ワーカー グループのパーサー ライブラリ エントリ。 | フル更新のみ | |
|
| 各ワーカーグループのイベントブレーカールールセット。 | フル更新のみ | |
|
| 各ワーカーグループの Grok パターンファイル。 | フル更新のみ | |
|
| 各ワーカーグループのスキーマライブラリエントリ。 | フル更新のみ | |
|
| 各ワーカーグループのコレクタージョブ。 | フル更新のみ | |
|
| 各ワーカーグループのデータベース接続。 | フル更新のみ | |
|
| 各ワーカーグループにインストールされたパック。 | フル更新のみ | |
|
| 各ワーカーグループの各ソースのヘルス状態とメトリクス。 | フル更新のみ | |
|
| 各ワーカーグループの各宛先の正常性状態とメトリクス。 | フル更新のみ | |
|
| 各ワーカーグループで使用可能な機能。 | フル更新のみ | |
|
| 組織内のワークスペース。 | フル更新のみ | |
|
| 組織内の API 資格情報。クライアントのシークレットは取り込まれません。 | フル更新のみ | |
|
| リーダー監査ログイベント。 | インクリメンタル |
|
|
| リーダーAPIアクセスLogsイベント。 | インクリメンタル |
|
コネクターのオプション
Cribl コネクタでは、次のパイプライン レベルのオプションがサポートされています。使用方法については、例を参照してください。
オプション | Type | スコープ | 必須 | 適用対象 | 説明 |
|---|---|---|---|---|---|
| String | パイプライン | No |
|
|
| String | パイプライン | No |
|
|
| String | パイプライン | No | すべてのワーカーグループスコープのテーブル | 取り込むワーカーグループIDのカンマ区切りリスト。defaultはすべてのワーカーグループです。 |
| String | パイプライン | No |
| 最初の同期で取り込む最も早いLogs時刻 ( |
宛先テーブルスキーマ
worker_groups
主キー: product, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
workers
主キー: product, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
health
プライマリーキー: host
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
pipelines
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
routes
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
sources
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
destinations
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
parsers
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
breakers
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
grok_patterns
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
schemas
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
collectors
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
database_connections
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
packs
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
inputs_status
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
outputs_status
主キー: group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
functions
主キー: worker_group, id
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
workspaces
プライマリーキー: workspaceId
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
api_credentials
プライマリーキー: clientId
同期モード: すべての更新のみ
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
audit_log
主キー: time, event_id
カーソルフィールド: time
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。
access_log
主キー: time, event_id
カーソルフィールド: time
フィールド | データ型 |
|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
このテーブルにはVARIANT列があるため、SCDタイプ2をサポートしていません。