Table Union Distinctステップ
同じ列構造を持つ複数のデータテーブルを、1つのデータテーブルに結合するために使用します。たとえば、時系列データはこの変換に最適です。結果は常に、データを結合したあとの重複のないレコードの集合になります。
ソース セクションは、追加（連結）するすべてのデータテーブルの一覧です。通常、すべてのデータテーブルは同じ（または類似した）列構造を持ちます。データテーブルをリストに追加するボタンは2つあります。
- 行を挿入
- 行を追加
また、編集するソースを選択 ウィンドウ内で右クリックすると、同じオプションが表示されます。すでに追加済みのテーブルを右クリックすると、削除 オプションも表示されます。
変換を正しく実行するには、追加するソースのデータテーブルごとに、ソース セクションに1つのエントリが必要です。これらのエントリは、追加される順序で一覧表示されます。順序を調整するには、テーブルを右クリックして次のオプションを表示します。
- 下へ移動（該当する場合）
- 末尾へ移動（該当する場合）
- 上へ移動（該当する場合）
- 先頭へ移動（該当する場合）
デフォルトでは、各ソースの名前は New Frame ですが、名前をダブルクリックして、わかりやすい名前に変更することをお勧めします。
ターゲットテーブル
Section titled “ターゲットテーブル”デフォルトでは、ターゲットテーブル は空欄です。名前を付ける前に、データテーブルはLinuxの命名規則に従う必要があることに注意してください。そのため、名前は英数字のみで構成することをお勧めします。Analyzeは、名前から無効な文字を自動的に取り除きます。また、長さは256文字に制限されるため、簡潔な名前にしてください。
ターゲットテーブル
ターゲットテーブルを設定するには、ターゲットテーブルドロップダウンから既存のテーブルを選択するか、緑色の “+” 記号をクリックして新しいテーブルをターゲットとして作成します。
テーブルの作成
新しいテーブルを作成するときは、ビューまたはテーブルのどちらとして作成するかを選択できます。
ビュー:
ビューは、テーブルを使用する場合に比べてステップの実行時間が大幅に短くなる点で便利です。短所は、テーブルの詳細モードでのデータ探索には向かないことです。
テーブル:
ターゲットにテーブルを使用すると、ステップの実行には時間がかかりますが、詳細モードでのデータ探索はビューよりもはるかに高速です。
テーブルデータの選択タブ
Section titled “テーブルデータの選択タブ”ソーステーブル
Section titled “ソーステーブル”テーブルの選択
テーブルを選択する方法（2番目のオプションでは複数のテーブルを選択する方法）は2つあります。
1つ目は、特定のテーブルドロップダウンを使用してテーブルを選択する方法です。
2つ目は、検索に一致するテーブルオプションを使用する方法で、検索パスと検索テキストを指定して、検索条件に一致するテーブルを選択します。 このオプションは、日付を付けて保存された、共通の名前を持つ一連のテーブルをワークフローが作成する場合に非常に便利です。
データマッパーの設定
データマッパーは、ソースデータの列をターゲットのデータテーブルにマッピングするために使用します。
マッパーの検査と入力
ソースを検査メニューボタンを使うと、ソースからターゲットへ列をマッピングする方法が増えます。
- 両方のマッピングテーブルを入力: ソースデータテーブルのすべての値をターゲットのデータテーブルに反映します。これがデフォルトです。
- ソースマッピングテーブルのみを入力: ソースデータテーブルのすべての値のみをマッピングします。ソース列の構成が変わった既存のワークフローを修正する際に便利です。
- ターゲットマッピングテーブルのみを入力: すべての値をターゲットのデータテーブルのみに反映します。
ソース列とターゲット列のオプションだけでは足りない場合は、次のようにいくつかの方法でターゲットのデータテーブルに列を追加できます。
- すべてを反映は、すでに存在しているかどうかにかかわらず、すべてのソース列をターゲットのデータテーブルに挿入します。
- 選択を反映は、選択したソース列のみを挿入します。
- ターゲット側を右クリックして行を挿入を選択すると、現在選択している行の直上に行を挿入します。
- ターゲット側を右クリックして行を追加を選択すると、ターゲットのデータテーブルの末尾（右端）に行を挿入します。
列の削除
ターゲットのデータテーブルから列を削除するには、対象の列を選択し、右クリックして削除を選択します。
一覧になくなったソース列
ターゲットの行がソース列として指定している列が、ソースデータテーブルの一覧にない場合があります。たとえば、ソースを再度検査した後などです。ステップがそのような行を自動的に削除することはありません。代わりに、列名が警告マーク ⚠ の後ろに赤色で表示され、その上にカーソルを置くと、その列がソース列にないことが示されます。ユニオンなど複数のテーブルを扱うステップでは、各テーブルがそれぞれのソース列に対してチェックされます。
定数、式、または件数 (NULLを含む) の集計を設定した行は、ステップがそのソース列を読み取らないため、フラグが付くことはありません。ソースデータテーブルに列が一覧表示されていない間（たとえば、ソースを初めて検査する前）は、何もフラグが付きません。
フラグが付いた行が残ったままステップを保存すると、古い列が見つかりましたダイアログに、該当する行が所属するタブまたはテーブルごとに表示され、次の3つの選択肢が提示されます。
- すべて削除して保存 — フラグが付いた行を削除してから保存します。
- このまま保存 — ステップをそのまま保存します。
- キャンセル — 保存せずにステップに戻ります。
行を残したまま警告を解除するには、その列をソースデータテーブルに追加し直すか、ソースデータテーブルに一覧表示されている列を選択します。
ソーステーブルに存在しない列
保存時には、ソースデータテーブル自体の現在の状態が確認されます。ステップのソース列に一覧表示されている列がテーブルに存在しない場合（たとえば、前のステップで名前が変更されたか削除された列）、ステップの列が古くなっていることを意味し、そのような列を読み取るステップは実行時に失敗します。その場合、保存すると不足しているソース列ダイアログが開き、各テーブルと、そのテーブルにない列が表示されます。選択肢は次の2つです。
- このまま保存 — ステップをそのまま保存します。
- キャンセル — 保存せずにステップに戻ります。
テーブル側が誤っている可能性があり、ステップの実行前に再び変わる可能性もあるため、自動的に削除されるものはありません。行が一覧に含まれなくなったものとしてフラグ付けされている場合は、両方が古い列が見つかりましたダイアログにまとめて表示され、すべて削除して保存ではフラグ付けされた行のみが削除されます。ソース列のリストが空の間は、代わりにステップがマッピングする列が確認されます。ただし、定数、式、または件数 (NULLを含む) の集計を持つ行は、どの列も読み取らないため対象外です。
{year}/Sales のように変数で指定されたソースは、保存時点の変数の値で確認され、ダイアログには 2026/Sales (from {year}/Sales) のように確認したテーブルが表示されます。ループが設定する変数には最後の反復の値が入っているため、形状の異なるテーブルをループ処理する場合、次の実行では読み取られないテーブルについて警告が表示されることがあります。まだ存在しないテーブル（たとえば、ワークフロー内の前のステップが作成するテーブル）は確認されません。値のない変数で指定されたソース、実行時にステップが検索して見つけるテーブル、現時点で読み取れないテーブルも同様です。
列のデータ型
ターゲットの各列にはタイプがあります。ソースから反映した列はソース列のタイプを引き継ぎます。手動で追加した行はテキストから始まるため、実際に必要なタイプをタイプで設定します。合計や並べ替えを行う列には数値型や日付型が必要です。テキストはテキストとして並べ替えられ、合計されるためです。
タイプがまったく設定されていない列を含んだままステップを保存しても、ステップは実行されます。タイプは、ステップの開始時に、その列が読み取るソース列から判定されます。読み取り元がない場合はテキストとして扱われます。たとえば、SQL抽出ステップの列は、マッピングされたソースではなく、記述したクエリから決まります。また、同じ列名でタイプが一致しないソースが複数ある場合は、いずれかを推測せずテキストが使われます。推測が外れるとウェアハウスが拒否する変換が生じる可能性がありますが、どんな値もテキストには変換できるためです。
列がどうあるべきかを指定する方法は、引き続きタイプを自分で設定することです。未設定のままにすると、ソース列がたまたまそうであるタイプをそのまま受け入れることになります。
列の順序の変更
ターゲットのデータテーブルの列を並べ替えるには、対象の列を選択します。次のどちらかを使用できます。
- 一括移動の矢印: 右上の矢印から目的の移動オプションを選択します
- コンテキストメニュー: 右クリックして、先頭へ移動、上へ移動、下へ移動、末尾へ移動のいずれかを選択します。
結果を重複のないレコードのみに絞り込む
重複のないオプションのみを返すには、重複排除メニューオプションを選択します。ソースの各列にチェックボックスが表示されます。重複を排除したい列の横にあるチェックボックスをオンにすると、重複のない結果のみが返されます。
状況によっては、代わりに集計の使用を検討することをお勧めします。
重複排除では、最初に見つかった一意のレコードを残し、残りを破棄します。実行間で一貫性が必要な場合は、データに並べ替えを適用することをお勧めします。
集計とグループ化
結果を集計するには、集計メニューオプションを選択します。ターゲットのデータテーブルの各列に選択ボックスが表示されます。列ごとに適切な集計方法を選択します。
ソースを検査で列が入力される際、数値列は、名前が id、customer_id、Order No、CustomerKey のように識別子と読み取れる場合、テーブルでキーに設定されている場合、または結合でキーとして使用されている場合に、合計ではなくグループ化から始まります。
- グループ化
- 合計
- 最小
- 最大
- 最初
- 最後
- 件数
- 件数 (NULLを含む)
- 平均
- 標準偏差
- 標本標準偏差
- 母標準偏差
- 分散
- 標本分散
- 母分散
- 高度な非グループ化
式、クレンジング、定数などのデータマッパーの高度な使い方については、データマッパーの高度な使い方を参照してください。
データフィルター
Section titled “データフィルター”
柔軟性を最大限に高めるため、データフィルターはソースデータとターゲットデータの両方で使用できます。データセットが大きい場合は、ソース側で行を絞り込んでおくと、残りの処理を小さなデータセットに対して実行できるため、特に効果的です。
データのサブセットを選択
このフィルタータイプでは、指定した条件に基づいて、受信するソースデータをフィルター処理できます。
結果データにセカンダリフィルターを適用
このフィルタータイプでは、変換後の結果データに対して、指定した条件に基づくフィルターを適用できます。 変換後の結果にフィルターを適用できるため、複雑な計算、集計、ウィンドウ関数の結果に基づいて行を除外できます。
最終データテーブルのスライス（制限）
行のスライス機能では、範囲と開始位置に基づいて、結果セットの行数を制限できます。
フィルター構文
フィルター構文には Python SQLAlchemy を使用します。これは他の式と同じ構文です。
式の例と式関数については、式のセクションを参照してください。
保存時のチェック内容
Section titled “保存時のチェック内容”すべてのソースは、最初のソースと同じ列を生成する必要があります。列名が同じであること、また両方が型を宣言している場合は型も同じであることが条件です。ターゲットテーブルは、最初のソースの列から作成されます。列は名前で照合されるため、ソースは列を異なる順序で並べることができます。ソースが異なるステップを保存しようとすると、それぞれの相違点が示されて拒否されます。Source ‘east’ must produce the same columns as ‘west’: missing region; not in ‘west’: area.
保存時には、ソーステーブルはあるもののソース列またはターゲット列がないソースのマッピングも、そのテーブルから自動的に入力されます。これは 両方のマッピングテーブルを入力 を実行した場合と同じです。