提取 SQL
通过您自己编写的 SQL SELECT 填充目标表。Table Extract 步骤根据映射的列和表达式构建查询,而此步骤则将查询直接交给 Warehouse,适用于直接用 SQL 表达比在映射器中组装更容易的情况。
当您需要映射器无法涵盖的构造时可以使用它:递归 CTE、映射器无法描述其分区的窗口函数,或者针对多个表的查询(使用联接步骤会让它更复杂)。
独有的配置项
Section titled “独有的配置项”SQL 选择查询
Section titled “SQL 选择查询”查询文本。请将其格式化为易读的多行缩进 SQL(每行一个列或子句),而不是单个长行;步骤会保留您所写的内容,下一个打开它的人需要阅读。
查询在项目的 Lakehouse 上运行,因此可用的函数是 Lakehouse v1 或 v2 集合,具体取决于工作区。
预览
单击源选项卡上的预览,可查看步骤将读取内容的最多 100 行,而不运行它。如果结果更长,预览会说明它只显示了前几行,需要运行步骤才能读取全部行。
预览填充项目变量和工作流变量的方式与运行相同。它不支持 {x:>9} 之类的变量格式,也无法填充只在运行期间才有值的变量,例如触发值。
预览只读取数据。它会拒绝可能更改任何内容的查询,并显示一条消息而不是行:
- 预览仅支持标准 SQL 函数。请运行该步骤以查看结果。 查询使用了预览无法确认是只读的函数。请运行步骤以查看结果。
- 不是单个
SELECT的查询,或者其变量展开后成为写入语句的查询,会被拒绝。
在已锁定的项目中、在 SQL Server、Oracle 或 SQLite 连接上,或对于通过代理运行的步骤(例如 Agent Remote Execution of SQL 步骤),预览不可用。
与其他 SQL 步骤不同,此步骤不填充变量,因此其预览也不填充。
数据映射器配置

数据映射器用于将源数据中的列映射到目标数据表。
检查并填充映射器
使用 检查源 菜单按钮可以通过更多方式将源中的列映射到目标:
- 填充两个映射表:将源数据表中的所有值传播到目标数据表。这是默认行为。
- 仅填充源映射表:仅映射源数据表中的所有值。当源列结构发生变化而需要修改现有工作流时,此选项很有用。
- 仅填充目标映射表:仅将所有值传播到目标数据表。
如果上述源列和目标列选项仍不够用,还可以通过以下几种方式向目标数据表添加其他列:
- 全部传播 会将所有源列插入目标数据表,无论这些列是否已存在。
- 传播所选项 仅插入所选的源列。
- 在目标侧右键单击并选择 插入行,可在当前所选行的正上方插入一行。
- 在目标侧右键单击并选择 追加行,可在目标数据表的底部(最右侧)插入一行。
删除列
要从目标数据表中删除列,请选择所需的列,然后右键单击并选择 删除。
不再列出的源列
目标行可能指定了某个 源列,而源数据表已不再列出该列,例如在重新检查源之后。步骤绝不会自动移除这样的行,而是将列名显示为红色,并在前面加上 ⚠ 警告标志;将鼠标悬停在其上,会提示该列不在源列中。在包含多个表的步骤(如联合)中,每个表都会分别对照其自身的源列进行检查。
带有 常量、表达式 或 计数(含空值) 汇总的行不会被标记,因为步骤不会读取其源列。当源数据表没有列出任何列时(例如首次检查源之前),也不会标记任何内容。
保存仍含有已标记行的步骤时,会出现 发现过时列 对话框,按其所在的选项卡或表列出这些行,并提供三个选项:
- 全部移除并保存 — 移除已标记的行,然后保存。
- 仍然保存 — 按现状保存步骤。
- 取消 — 返回步骤,不保存。
要保留某一行并清除其警告,请将该列重新添加到源数据表,或选择源数据表中列出的某一列。
列数据类型
每个目标列都带有一个 类型。从源传播而来的列沿用源列的类型;手动添加的行起初为 文本,需要设置 类型 来指明其实际类型 — 打算求和或排序的列需要使用数值或日期类型,因为文本会按文本方式排序和求和。
保存时没有任何类型的列,步骤仍可运行。类型会在步骤启动时根据该列所读取的源列确定。如果无处可读,则视为文本:提取 SQL 步骤的列来自您编写的查询,而不是映射的源;如果多个源中存在同名列但类型不一致,则使用文本,而不是随意选择其中一种 — 猜错会产生仓库可能拒绝的转换,而任何类型都可以转换为文本。
自行设置 类型 仍然是指明列应为何种类型的方式。不设置则意味着接受源列恰好具有的类型。
更改列顺序
要重新排列目标数据表中的列,请选择所需的列。可以使用以下任一方式:
- 批量移动箭头:从右上角的箭头中选择所需的移动选项
- 上下文菜单:右键单击并选择 移到顶部、上移、下移 或 移到底部。
仅返回非重复记录
要仅返回非重复的选项,请选择 非重复 菜单选项。这会为源中的每一列切换显示一组复选框。只需勾选相应列旁边的复选框,即可仅返回非重复的结果。
视情况而定,您可能需要考虑改用汇总。
非重复处理会保留找到的第一条唯一记录,并丢弃其余记录。如果运行之间的一致性很重要,可能需要对数据进行排序。
聚合与分组
要聚合结果,请选择 汇总 菜单选项。这会为目标数据表中的每一列切换显示一组选择框。请为每一列选择合适的汇总方法。
当 检查源 填充列时,如果数值列的名称读起来像标识符(例如 id、customer_id、Order No 或 CustomerKey),或者其所在表将其设为键,或者联接将其用作键,则该列起初为 分组依据,而不是 求和。
- 分组依据
- 求和
- 最小值
- 最大值
- 第一个
- 最后一个
- 计数
- 计数(含空值)
- 平均值
- 标准差
- 样本标准差
- 总体标准差
- 方差
- 样本方差
- 总体方差
- 高级非分组
有关表达式、清理和常量等高级数据映射器用法,请参阅高级数据映射器用法