データパイプライン のソースデータを調べる

データパイプラインを作成する際の一般的な最初のステップは、パイプラインのソース データを理解することです。 このステップでは、ノートブックで Databricks ユーティリティ と PySpark コマンドを実行して、ソース データと成果物を調べます。

探索的データ分析の詳細については、「 Databricks での探索的データ分析 : ツールとテクニック」を参照してください。

ビデオ: Databricks ノートブック の概要

Databricks ノートブックの概要については、次のビデオをご覧ください。

データ探索ノートブック を作成する

  1. サイドバーで 新しいアイコン [ 新規 ] をクリックし、メニューから [ノートブック ] を選択します。ノートブックが開き、置き換え可能な既定の名前が表示されます。

  2. ノートブックの名前を入力します (例: Explore songs data)。 デフォルトでは、次のようになります。

    • 選択した 言語は Python です。

    • ノートブックは、最後に使用したクラスターにアタッチされます。 この場合、「 ステップ 1: クラスターを作成する」で作成したクラスターです。

  3. データセットを含むディレクトリの内容を表示するには、ノートブックの最初のセルに次のように入力し、 実行メニューをクリックして、[セルの実行] を選択します。

    %fs ls "/databricks-datasets/songs/data-001"
    

    パス

    名前

    大きさ

    変更時刻

    1

    dbfs:/databricks-データセット/songs/README.md

    README.md

    1719

    1454620183000

    2

    dbfs:/databricks-データセット/songs/data-001/

    データ-001/

    0

    1672791237846

    3

    dbfs:/databricks-データセット/songs/data-002/

    データ-002/

    0

    1672791237846

データの 探索

  1. README ファイルには、データ スキーマの説明など、データセットに関する情報が含まれています。 スキーマ情報は、次の手順でデータを取り込むときに使用されます。 README の内容を表示するには、[ダウンキャレット セルのアクションメニューをクリックし、[下にセルを追加]を選択し、新しいセルに次のように入力して、実行メニュー をクリックし 、[セルの実行]を選択します。

    %fs head --maxBytes=10000 "/databricks-datasets/songs/README.md"
    
    Sample of Million Song Dataset
    ===============================
    
    ## Source
    This data is a small subset of the [Million Song Dataset](http://labrosa.ee.columbia.edu/millionsong/).
    The original data was contributed by The Echo Nest.
    Prepared by T. Bertin-Mahieux <tb2332 '@' columbia.edu>
    
    ## Attribute Information
    - artist_id:string
    - artist_latitude:double
    - artist_longitude:double
    - artist_location:string
    - artist_name:string
    - duration:double
    - end_of_fade_in:double
    - key:int
    - key_confidence:double
    - loudness:double
    - release:string
    - song_hotnes:double
    - song_id:string
    - start_of_fade_out:double
    - tempo:double
    - time_signature:double
    - time_signature_confidence:double
    - title:string
    - year:double
    - partial_sequence:int
    ...
    
  2. この例で使用されているレコードは、 /databricks-datasets/songs/data-001/ ディレクトリにあります。 このディレクトリの内容を表示するには、セルのアクションメニューをクリックし、「 ダウンキャレット 下にセルを追加 」を選択し、新しいセルに次のように入力して、 をクリックし、「 実行メニュー セルの実行 」を選択します。

    %fs ls "/databricks-datasets/songs/data-001"
    

    パス

    名前

    大きさ

    変更時刻

    1

    dbfs:/databricks-データセット/songs/data-001/header.txt

    ヘッダー.txt

    377

    1454633901000

    2

    dbfs:/databricks-データセット/songs/data-001/part-00000

    パート-00000

    52837

    1454547464000

    3

    dbfs:/databricks-データセット/songs/data-001/part-00001

    部品-00001

    52469

    1454547465000

  3. README とファイル名はファイル形式を示していないため、レコードのサンプルを表示して、各レコードの内容と形式をよりよく理解できます。 データファイルの 1 つから最初の 10 個のレコードを読み取って表示するには、「 ダウンキャレット セルアクションメニューをクリックし、「下にセルを追加」を選択し、新しいセルに次のように入力して、 実行メニューをクリックし、 「セルを実行」 を選択します。

    %fs head --maxBytes=10000 "/databricks-datasets/songs/data-001/part-00000"
    
     AR81V6H1187FB48872  nan     nan             Earl Sixteen    213.7073        0.0     11      0.419   -12.106 Soldier of Jah Army     nan     SOVNZSZ12AB018A9B8      208.289 125.882 1       0.0     Rastaman        2003    --
     ARVVZQP11E2835DBCB  nan     nan             Wavves  133.25016       0.0     0       0.282   0.596   Wavvves 0.471578247701  SOJTQHQ12A8C143C5F      128.116 89.519  1       0.0     I Want To See You (And Go To The Movies)        2009    --
     ARFG9M11187FB3BBCB  nan     nan     Nashua USA      C-Side  247.32689       0.0     9       0.612   -4.896  Santa Festival Compilation 2008 vol.1   nan     SOAJSQL12AB0180501      242.196 171.278 5       1.0     Loose on the Dancefloor 0       225261
     ...
    

    レコードのサンプルを表示すると、データに関するいくつかのことがわかります。 これらの観測値は、後でデータを処理するときに使用します。

    • レコードにヘッダーが含まれていません。 代わりに、ヘッダーは同じディレクトリ内の別のファイルに格納されます。

      • ファイルはタブ区切り値 (TSV) 形式で表示されます。

      • 一部のフィールドが見つからないか無効です。

  4. データをさらに調査して分析するには、これらの観察結果を使用して、TSV 形式の曲データをPySpark DataFrameに読み込みます。 これを行うには、ダウンキャレットセルアクションメニューで「下にセルを追加」を選択し、新しいセルに次のコードを入力してクリックします。実行メニュー >セルを実行します

    df = spark.read.format('csv').option("sep", "\t").load('dbfs:/databricks-datasets/songs/data-001/part-00000')
    df.display()
    

    データ ファイルにはヘッダーがないため、列名は _c0_c1などと表示されます。 各列は、実際のデータ型に関係なく string として解釈されます。 次の手順 の生データの取り込みは、データをロードするときに有効なスキーマを適用する方法の例を示しています。

    生の曲データから作成されたDataFrame