Verticaは、WOS(メモリ)またはROS(ディスク)のどちらかを選択してデータを投入できる、ハイブリッド型データ格納方式となっています。本記事では、WOSとROSそれぞれに格納されたデータが、内部的にどのように移動しているか詳しくご紹介します。

※WOS/ROSの内容と、WOS/ROSへのデータロードについては、以下の記事をご参照ください。

  • データロードの基本
  •  http://vertica-tech.ashisuto.co.jp/dataload_overview/

  • Verticaのデータ格納方法(WOSとROS)
  •  http://vertica-tech.ashisuto.co.jp/vertica-hybrid-data-store/

    Tuple Moverとは

    Touple Moverは、後述のMoveoutおよびMergeoutを実行する機能です。
    MoveoutおよびMergeout共に、一定間隔で内部的に実行されているため、通常は意識する必要はありません。

    Moveoutとは

    WOSに格納されたデータは、未ソート、非圧縮、行指向の形式で保持されているため、ディスク上のROSに格納する際に、列指向の形式に変換処理を行う必要があります。ソートと圧縮は、プロジェクションで指定されているルールに基づいて処理されます。
    このように、WOSからROSへ非同期でデータを転送する処理のことをMoveoutと呼び、デフォルトでは5分置きに実行されます。

    Moveoutの動作フロー

    1. WOSへ新しくデータが投入された場合、下記図の状態になります。

    moveout1
    2. Touple Moverが5分間隔で、WOS上の行形式データを列形式データへ変換し、ソートおよび圧縮を行います。

    moveout2
    3. 変換したデータをROSへ移動します。

    moveout3

    Mergeoutとは

    MoveoutされたデータやROSへ直接投入したデータは、既存データとは別のROSコンテナとして断片化した状態でディスクに格納されます。
    このROSコンテナの断片化を解消する処理のことをMergeoutと呼び、デフォルトでは10分置きに実行されます。

    Mergeoutの動作フロー

    1. Moveout後やROSへ直接データを投入した後は、下記図の状態になります。

    mergeout1
    2. Touple Moverが10分間隔で、ROS上の断片化したデータを統合します。

    mergeout2
    3. 統合したデータをROSへ移動し、古いROSコンテナ(ファイル)を削除します。

    mergeout3

    検証バージョンについて

    この記事の内容はVertica 7.1で確認しています。