PlaidCloud 可将 Prophecy Spark 管道和 SQL 项目转换为原生高级工作流。导入器会把每个 Prophecy gem 映射为一个工作流步骤、项目变量或画布对象,因此转换后的工作流以云原生方式运行,而不是通过仿真运行。
每个 gem、连接器和项目结构都可以转换:完整表示该 gem 成为原生 PlaidCloud 步骤、变量或画布对象,并完成该 gem 的工作。转换后的工作流自身不会复现的少数行为列在已知边缘情况中,并附有应对方法。
要运行转换,请参阅迁移 Prophecy 项目。
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Lookup |
完整 |
查找 |
每次 lookup 调用都会在使用它的步骤中成为一个查找步骤;没有匹配的键读取为 NULL,重复的键返回其中一行。 |
| Source |
完整 |
按数据集格式选择的导入步骤(请参阅连接器) |
每个 Source 都会成为导入到以数据集命名的表中的导入步骤;转换器无法识别的格式会被读取为上传到工作流文档文件夹的 CSV 文件,并给出警告。 |
| Streaming Source |
完整 |
与批处理 Source 相同的导入 |
流式源会转换为一次性批量导入,并给出警告。 |
| Streaming Target |
完整 |
批量追加加载 |
流式目标会转换为批量追加,并给出警告。 |
| Target |
完整 |
按数据集格式和 writeMode 选择的表导出/加载步骤 |
每个 Target 都会按该 gem 的写入模式成为表加载或导出步骤:append、overwrite、带 SET 表达式的 merge、upsert、SCD2、replaceWhere 和 insertInto。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Data Cleansing |
完整 |
Table Extract 步骤中的列表达式 |
将空值填充、去除首尾空格和大小写选项转换为列表达式;清理后的列移到最后。 |
| Sequence |
完整 |
Table Extract 步骤,带行号表达式 |
根据起始值和增量添加序列列。 |
| Surrogate Key Generator |
完整 |
Table Extract 步骤,带行号表达式 |
从初始值开始添加顺序键;键会跨运行延续,依据是保存最后一个已发放键的表。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Aggregate |
完整 |
Table Extract 步骤,带聚合;当该 gem 进行透视时使用Pivot |
分组并聚合,应用 HAVING 条件,并为每个透视值透视出一列;propagate-all 会携带所有其他输入列。 |
| Bulk Column Expressions |
完整 |
在 Table Extract 步骤中展开为每列一个表达式 |
在 Table Extract 步骤中为每个列出的列生成一个表达式;转换会警告该 gem 的布局是推断得出的。 |
| Bulk Column Rename |
完整 |
Table Extract 步骤中的列重命名 |
在 Table Extract 步骤中为每个列出的列生成一个重命名;转换会警告该 gem 的布局是推断得出的。 |
| Deduplicate |
完整 |
Table Extract 步骤,带 distinct 或行号筛选器 |
每个键保留一行:distinct、按您的排序顺序取第一行或最后一行、任意一行,或仅保留只出现一次的键。 |
| Dynamic Replace |
完整 |
动态替换转换,需手动配置 |
转换为动态替换转换上的替换规则;转换会警告该 gem 的布局是推断得出的。 |
| Dynamic Select |
完整 |
Table Extract 步骤中按类型解析的列选择 |
在转换时按类型解析列,生成明确的选择。 |
| Filter |
完整 |
Table Extract 步骤,带筛选表达式 |
转换为带筛选表达式的 Table Extract 步骤;条件为 NULL 的行会被丢弃。 |
| Flatten Schema |
完整 |
JSON 解析和 Table Extract 步骤 |
将嵌套字段展平为以该 gem 的分隔符命名的列,并将数组展开为每个元素一行。 |
| Fuzzy Match |
完整 |
Table Extract 步骤和 User Defined Transform 步骤 |
对记录配对,按该 gem 的方法为每个匹配字段评分,对分数求平均,并保留达到或超过您所设阈值的配对。 |
| Group By Rollup |
完整 |
每个汇总层级一个 Table Extract 聚合步骤,再做合并 |
将汇总展开为每个分组层级一个聚合,并合并在一起,小计为 NULL。 |
| Limit |
完整 |
Table Extract 步骤,带行数限制 |
转换为行数限制;配置引用会成为项目变量。 |
| Normalize |
完整 |
Table Extract 步骤,带展开表达式 |
按长度表达式重复每条记录,按索引计算输出列,并在完成条件首次成立的索引处停止。 |
| Order By |
完整 |
Table Extract 步骤上的排序 |
转换为具有相同键、方向和空值位置的排序。 |
| Reformat |
完整 |
Table Extract 步骤,带列表达式 |
转换为每个输出列一个表达式的 Table Extract 步骤;未列出的列会被丢弃。 |
| Sample Rows |
完整 |
Table Extract 步骤,带行数限制或随机抽样 |
保留随机比例或数量的行;由于抽样是随机的,所选行与 Spark 运行的结果不同。 |
| Schema Transform |
完整 |
按顺序应用的 Table Extract 步骤链 |
按顺序应用每个操作:添加或替换列、删除、重命名、缺失时按默认值添加,以及添加项目业务规则。 |
| Set Operation |
完整 |
全部合并;except 使用反联接;intersect 使用内联接 |
Union all 堆叠各输入;except all 和 intersect all 会保留正确数量的重复行。 |
| TransposeAgg |
完整 |
Table Extract 步骤,带聚合 |
将该 gem 的分组、聚合和透视转换为 Aggregate,并给出需要检查的警告。 |
| Unpivot |
完整 |
Melt |
将所选列堆叠为名称列和值列。 |
| Watermark |
完整 |
无需步骤 |
已丢弃:批量运行会读取现有的所有数据,因此不存在需要应用的迟到数据截止点。 |
| Window Function |
完整 |
Table Extract 步骤中的窗口表达式 |
按该 gem 的分区、排序和框架(行或范围)添加窗口列,边界可为无界、当前行或偏移。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Compare Columns |
完整 |
全外联接加每列聚合 |
通过对逆透视数据做全外联接来比较各列,并给出匹配与不匹配的计数。 |
| Join |
完整 |
内联接、多表联接、反联接或交叉联接 |
针对任意联接条件构建每种类型的联接(inner、left、right、full、semi、anti、cross 和 natural),应用 where 子句,并写出 select 列表。 |
| Repartition |
完整 |
无需步骤 |
已丢弃:PlaidCloud 管理分区,因此下一步会直接读取上游表。 |
| Row Distributor |
完整 |
每个输出一个 Table Extract 筛选器 |
转换为每个输出一个筛选器;行可以进入多个输出。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Column Parser |
完整 |
JSON 解析 / XML 解析 |
转换为对指定列的 JSON 或 XML 解析;转换会警告该 gem 的布局是推断得出的。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Custom Gem (Gem Builder) |
完整 |
运行该 gem 所生成代码的 User Defined Transform 步骤 |
管道导出中该 gem 生成的 PySpark 代码会在 Python 步骤中运行,并给出需要检查的警告。 |
| CustomReformatBitbucket |
完整 |
Table Extract 步骤 |
按该 gem 所携带表达式的 Reformat 进行转换,并给出需要检查的警告。 |
| Data Quality Check |
完整 |
每项检查一个结果行的全部合并;失败时使用引发工作流错误停止 |
对输入评估每项检查,并为每项检查写出一个带状态和消息的结果行。数据会原样传递,并在达到该 gem 的失败阈值时停止运行。 |
| Deequ |
完整 |
Table Extract 步骤检查 |
传递数据,并为 isComplete、isUnique、isNonNegative 和 isContainedIn 规则构建约束结果表。 |
| Delta Table Operations |
完整 |
Table In-Place Delete、Table Update、Table Drop、Table Restore to Timestamp 步骤 |
删除、更新、丢弃和还原到时间戳会映射为表步骤;optimize、vacuum 和按版本还原会传递数据并给出警告。 |
| Directory |
完整 |
目录列表 |
以该 gem 的列列出所绑定文档文件夹中的文件;使用工作表名称选项时,每个工作簿的每个工作表生成一行。文件夹缺失时生成零行。 |
| Email |
完整 |
Notify Via Email 步骤 |
通过所绑定的电子邮件连接发送电子邮件,可选附带数据附件。 |
| Email Data |
完整 |
Notify Via Email 步骤 |
将输入行以表的形式通过电子邮件发送,并原样传递输入。 |
| File Operation |
完整 |
Copy Document File 步骤或 Copy Document Directory 步骤 |
将所绑定文档文件夹中的文件复制、移动或同步到已转换工作流的文档文件夹;移动会删除源文件。 |
| Log |
完整 |
Table Extract 步骤 |
将该 gem 的事件行(时间、gem 名称、事件类型和文本)写入其输出表。 |
| REST API Enrich |
完整 |
REST 请求 |
对每行调用一次 API 并添加响应列。 |
| Script |
完整 |
带数据框访问重写的 Python 步骤 |
将脚本主体嵌入 Python 步骤,并重写数据框访问;Scala 主体会连同说明一并保留。 |
| Soda Data Quality Check |
完整 |
Table Extract 步骤检查 |
根据 Soda 检查构建检查结果表。 |
| SQL Statement |
完整 |
每个输出选项卡一个 SQL 步骤,文本翻译为租户方言 |
将每个选项卡嵌入为一个 SQL 步骤,输入绑定为临时表;翻译为租户方言。 |
| Todo |
完整 |
引发工作流错误或 Notify via Log 步骤 |
标记尚待编写的逻辑:没有任何内容读取它时为一条日志消息,后续步骤依赖它时则为一个以该 gem 的消息停止运行的步骤。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Tableau |
完整 |
Publish to Tableau 步骤 |
写出 Hyper 提取并发布到所绑定的 Tableau 连接。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Bedrock |
完整 |
Text NLP AI 步骤 |
通过工作区 AI 连接对文本列做嵌入。 |
| OpenAI |
完整 |
Text NLP AI 步骤 |
通过工作区 AI 连接回答问题或对文本做嵌入。 |
| Pinecone Lookup |
完整 |
REST 请求 |
为每一行查询 Pinecone 索引,并添加 pinecone_matches 和 pinecone_error 列。 |
| SageMaker Endpoint |
完整 |
Text NLP AI 步骤 |
通过工作区 AI 连接回答问题。 |
| Text Processing |
完整 |
分块拆分使用 Table Extract 步骤;网页抓取使用 REST 请求 |
分块拆分成为按字符分块的表达式;网页抓取会获取每行的 URL,并将页面内容联接回该行。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Control Flow Input |
完整 |
已丢弃(仅为边界标记) |
已丢弃;它只标记迭代器子工作流的输入边界。 |
| Control Flow Output |
完整 |
已丢弃(仅为边界标记) |
已丢弃;它只标记迭代器子工作流的输出边界。 |
| Subgraph (Basic) |
完整 |
画布容器 / 由内联流程生成的嵌套工作流 |
将内联的内部图转换为带输入/输出表参数的嵌套工作流(或内联步骤)。 |
| Table Iterator |
完整 |
Workflow Loop 步骤 |
对每个输入行运行一次循环体,并用该行对应的列设置每个配置值,最多运行 maxIteration 次。 |
| While Iterator |
完整 |
Workflow Loop 步骤 |
每次遍历运行一次循环体并传入迭代序号,直到循环体不返回任何行或达到该 gem 的最大值。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| External table Source/Target (BigQuery, Databricks, SAP HANA, MongoDB, MSSQL, Oracle, Postgres, Redshift, Salesforce, Snowflake, Synapse) |
完整 |
带匹配数据库连接的外部数据导入/导出步骤 |
通过 PlaidCloud 连接读取或写入外部数据库中的表。 |
| File storage Source/Target (ADLS, Databricks Volumes, GCS, OneDrive, S3, SFTP, SharePoint, Smartsheet) |
完整 |
针对文档账户(ADLS/GCS/S3/SFTP/SharePoint/OneDrive)的导入/导出文件步骤 |
读取或写入云存储/SFTP 存储中的文件,支持通配符合并、触发器、删除/移动和加密选项。 |
| Model |
完整 |
上游步骤的输出表 |
将另一个 model 读取为所引用上游步骤产生的表。 |
| Seed |
完整 |
导入:CSV |
Seed CSV 会被导入 PlaidCloud 表。 |
| Source |
完整 |
按数据集格式选择的导入步骤(请参阅连接器) |
每个 Source 都会成为导入到以数据集命名的表中的导入步骤;转换器无法识别的格式会被读取为上传到工作流文档文件夹的 CSV 文件,并给出警告。 |
| Target Model / Table (Target) |
完整 |
Table Extract 步骤、upsert、复制表和全部合并 |
将 model 最终的 select 以 replace、append、upsert、delete-and-insert、SCD2 或按谓词替换的方式写入 PlaidCloud 表。 |
| Upload Files |
完整 |
导入:CSV |
上传的本地文件通过导入步骤成为表。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Data Cleansing |
完整 |
Table Extract 步骤中的列表达式 |
将空值填充、去除首尾空格和大小写选项转换为列表达式;清理后的列移到最后。 |
| Data Masking |
完整 |
用于字符掩码或哈希的列表达式 |
对所选字符串列就地掩码或哈希,或生成为新列。 |
| Find Duplicates |
完整 |
行号窗口表达式加筛选器 |
按键返回唯一行、重复行,或按计数/位置选出的行。 |
| Generate Rows |
完整 |
对每个输入行联接并筛选的序列表 |
根据 init、condition 和 loop 表达式,为每个输入行生成行。 |
| Imputation |
完整 |
聚合加联接回填和列表达式 |
用平均值、中位数、众数或固定值替换空值或哨兵值。 |
| Multi-Column Edit |
完整 |
按模板展开的逐列表达式 |
将一个表达式模板应用于每个所选列。 |
| Multi-Column Rename |
完整 |
select 步骤上的列重命名映射 |
按前缀、后缀或名称表达式重命名所选列。 |
| Record ID |
完整 |
行号或 uuid 列表达式 |
添加 UUID 或顺序记录 ID 列。 |
| Sample |
完整 |
提取上的行数限制或抽样选项 |
对整体或每个分组取前/后/随机/第 N/百分比行。 |
| Tile |
完整 |
用于分块编号和序列的窗口表达式 |
按等和、等计数、标准差区间、不同值或手动切点分配分块编号。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Aggregate |
完整 |
Table Extract 步骤,带聚合;当该 gem 进行透视时使用Pivot |
分组并聚合,应用 HAVING 条件,并为每个透视值透视出一列;propagate-all 会携带所有其他输入列。 |
| Count Records |
完整 |
带计数函数的聚合步骤 |
以一行返回总计数、非空计数或去重计数。 |
| Data Encoder/Decoder |
完整 |
用于 base64/hex 编码和解码的列表达式 |
对所选列编码或解码;AES 仅适用于 Databricks。 |
| Deduplicate |
完整 |
Table Extract 步骤,带 distinct 或行号筛选器 |
每个键保留一行:distinct、按您的排序顺序取第一行或最后一行、任意一行,或仅保留只出现一次的键。 |
| Dynamic Select |
完整 |
Table Extract 步骤中按类型解析的列选择 |
在转换时按类型解析列,生成明确的选择。 |
| Filter |
完整 |
Table Extract 步骤,带筛选表达式 |
转换为带筛选表达式的 Table Extract 步骤;条件为 NULL 的行会被丢弃。 |
| Finance |
完整 |
实现财务函数的列表达式 |
将财务函数结果(FV、PV、NPV、IRR 等)作为新列追加。 |
| Flatten Schema |
完整 |
JSON 解析和 Table Extract 步骤 |
将嵌套字段展平为以该 gem 的分隔符命名的列,并将数组展开为每个元素一行。 |
| Fuzzy Match |
完整 |
Table Extract 步骤和 User Defined Transform 步骤 |
对记录配对,按该 gem 的方法为每个匹配字段评分,对分数求平均,并保留达到或超过您所设阈值的配对。 |
| Limit |
完整 |
Table Extract 步骤,带行数限制 |
转换为行数限制;配置引用会成为项目变量。 |
| Order By |
完整 |
Table Extract 步骤上的排序 |
转换为具有相同键、方向和空值位置的排序。 |
| Pivot |
完整 |
Pivot |
将所选透视值转换为聚合列;在设计时获取的 Simple 模式值列表会按所列值转换。 |
| Reformat |
完整 |
Table Extract 步骤,带列表达式 |
转换为每个输出列一个表达式的 Table Extract 步骤;未列出的列会被丢弃。 |
| Running Total |
完整 |
累计求和窗口表达式列 |
为每个所选列追加累计和。 |
| Snowflake Unpivot (third-party) |
完整 |
Melt |
通过 Snowflake UNPIVOT 对列做逆透视。 |
| Transpose |
完整 |
Melt |
将数据列堆叠为名称列和字符串值列。 |
| TransposeAgg |
完整 |
Table Extract 步骤,带聚合 |
将该 gem 的分组、聚合和透视转换为 Aggregate,并给出需要检查的警告。 |
| Unpivot |
完整 |
Melt |
将数据列堆叠为名称列和值列。 |
| Weighted Average |
完整 |
带加权平均表达式的聚合步骤 |
计算整体或每个分组的加权平均值。 |
| Window Function |
完整 |
Table Extract 步骤中的窗口表达式 |
按该 gem 的分区、排序和框架(行或范围)添加窗口列,边界可为无界、当前行或偏移。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Except |
完整 |
基于所有列的反联接,加上去重的 Table Extract 步骤 |
保留第一个输入中未出现在任何其他输入里的行。 |
| Intersect |
完整 |
基于所有列的内联接,加上 Distinct |
保留每个输入中都存在的行。 |
| Join |
完整 |
内联接、多表联接、反联接或交叉联接 |
针对任意联接条件构建每种类型的联接(inner、left、right、full、semi、anti、cross 和 natural),应用 where 子句,并写出 select 列表。 |
| Union |
完整 |
全部合并 |
按位置堆叠各输入,在该 gem 不保留重复行时删除重复行。 |
| Union By Name |
完整 |
全部合并 |
成为按名称对齐列并对缺失列填充 NULL 的全部合并。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| JSON Parse |
完整 |
JSON 解析 |
将 JSON 文本列解析为结构化字段。 |
| Regex |
完整 |
Table Extract / Transform 步骤中的正则表达式 |
使用正则表达式对文本列进行替换、解析、匹配或分词。 |
| Text To Columns |
完整 |
带正则分隔符的拆分列/展开步骤 |
使用正则分隔符将带分隔符的列拆分为多列或多行。 |
| XML Parse |
完整 |
XML 解析 |
将 XML 文本列解析为结构化字段。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Directory |
完整 |
目录列表 |
以该 gem 的列列出所绑定文档文件夹中的文件;使用工作表名称选项时,每个工作簿的每个工作表生成一行。文件夹缺失时生成零行。 |
| DynamicInput |
完整 |
查询模板使用 SQL 步骤;多文件模式使用工作流循环 |
查询模板模式将模板嵌入为 SQL 步骤;多文件模式按假设进行映射。 |
| Email |
完整 |
Notify Via Email 步骤 |
通过所绑定的电子邮件连接发送电子邮件,可选附带数据附件。 |
| RestAPI |
完整 |
REST 请求 |
按您设置的 URL、标头、查询、正文和重试,为每个输入行发送一个请求,保留响应,并轮询异步请求直到完成。凭据来自您绑定的连接。 |
| Script |
完整 |
带数据框访问重写的 Python 步骤 |
将脚本主体嵌入 Python 步骤,并重写数据框访问;Scala 主体会连同说明一并保留。 |
| SQL Statement |
完整 |
每个输出选项卡一个 SQL 步骤,文本翻译为租户方言 |
将每个选项卡嵌入为一个 SQL 步骤,输入绑定为临时表;翻译为租户方言。 |
| StoredProcedure |
完整 |
Agent Remote Execution of SQL 步骤 |
通过您选择的连接在其仓库上调用存储过程:每个输入行调用一次,每个参数由对应的列绑定;若无参数则只调用一次。输入列会原样传递。 |
| Table Operations |
完整 |
Table In-Place Delete、Table Update、Table Drop 步骤 |
更新、删除和丢弃会映射为表步骤;vacuum 和 optimize 会成为表优化,或成为带警告的空操作。 |
| ToDo |
完整 |
引发工作流错误或 Notify via Log 步骤 |
标记尚待编写的逻辑:没有任何内容读取它时为一条日志消息,后续步骤依赖它时则为一个以该 gem 的消息停止运行的步骤。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Buffer |
完整 |
Spatial Buffer 步骤 |
按配置的英里或公里距离扩展每个几何图形。 |
| CreatePoint |
完整 |
使用 geom_point 的 Table Extract 步骤 |
根据经度和纬度列构建点几何图形。 |
| Distance |
完整 |
Table Extract 步骤 |
计算两个 WKT 点之间的距离、基本方位和方位角。 |
| FindNearest |
完整 |
Table Extract 步骤,带交叉联接 |
为每个源点在最大距离内查找 N 个最近的目标点。 |
| HeatMap |
完整 |
Heat Map (macro) 步骤 |
按该 gem 的分辨率将点分箱到 H3 六边形,按网格距离及其衰减扩散热度,并给出每个六边形的密度和轮廓。 |
| PolyBuild |
完整 |
Table Extract 步骤和 Python 步骤 |
根据每个分组中有序的点构建多边形或折线 WKT。 |
| Simplify |
完整 |
Spatial Generalize 步骤 |
按以英里/公里为单位的容差简化 WKT 几何图形。 |
| SpatialMatch |
完整 |
空间匹配 |
按 intersects/contains/within/touches/envelope 匹配源几何图形和目标几何图形。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| PowerBIWrite |
完整 |
REST 请求 |
创建 Power BI 数据集,并通过 Power BI REST API 推送行。 |
| TableauWrite |
完整 |
Publish to Tableau 步骤 |
写出 Hyper 提取并发布到所绑定的 Tableau 连接。 |
| Visualize |
完整 |
复制表 |
原样传递各行;请在同一个表上将图表构建为 PlaidCloud 仪表板。 |
| Gem |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Condition |
完整 |
交叉联接和 Table Extract 步骤 |
对整个输入评估各条件,并将每一行发送到第一个条件成立的输出,否则发送到最后一个输出。 |
| Macro |
完整 |
展开宏主体的 SQL 步骤 |
将宏主体嵌入为翻译为租户方言的 SQL 步骤,输入绑定为临时表。 |
| Pipeline (trigger) |
完整 |
Workflow Loop 步骤 |
按您的参数和触发条件,对每个输入行运行一次指定的管道,在运行失败后继续,并为每次运行返回一行。 |
| Subgraph (Basic) |
完整 |
画布容器 / 由内联流程生成的嵌套工作流 |
将内联的内部图转换为带输入/输出表参数的嵌套工作流(或内联步骤)。 |
数据集格式和连接器是 gem 的源和目标设置,而不是 gem。每种格式都会转换为所示的导入或导出步骤,且转换从不连接源系统或目标系统。
| 格式 |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Avro |
完整 |
导入:Avro;导出:Avro |
读取和写入 Avro 文件。 |
| BigQuery |
完整 |
带表导入的外部数据库连接 |
通过连接读取和写入。 |
| Binary files |
完整 |
读取文件内容的目录列表;写入使用 Alteryx 执行器 |
读取文件夹中每个文件的路径、修改时间、长度和内容;将每行的内容写入其路径所指向的文件。 |
| Catalog table |
完整 |
现有 PlaidCloud 表绑定 |
按名称绑定到表;读取和每种写入模式都可转换。 |
| Cosmos DB |
完整 |
导入和导出:REST 请求 |
通过您的 Cosmos DB 连接读取和写入容器中的文档。 |
| CSV |
完整 |
导入:CSV;导出:CSV |
读取和写入带分隔符的文件,支持标题行、分隔符、引号、转义和编码选项。 |
| Data Generator |
完整 |
Table Faker 步骤 |
生成该数据集的各列,使用相同类型的模拟数据。 |
| DataHub table |
完整 |
导入 SQL |
通过您的连接读取数据集所指定的表;写入会落到 PlaidCloud 表中。 |
| Delta |
完整 |
现有 PlaidCloud 表绑定 |
以每种写入模式读取和写入表;读取早期版本时,通过您绑定的 Databricks 连接读取。 |
| Excel (XLSX) |
完整 |
导入:Excel;导出:Excel |
读取和写入工作簿的工作表和区域。 |
| Fixed format |
完整 |
导入:固定宽度;导出:CSV |
按数据集的列宽布局读取固定宽度文件;写出带分隔符的文件。 |
| Hive |
完整 |
导入:导入 SQL;导出:外部表 |
通过您的 Hive 连接读取和写入表。 |
| Iceberg |
完整 |
现有 PlaidCloud 表绑定 |
读取和写入表。 |
| JDBC |
完整 |
带表导入的外部数据库连接 |
通过您的连接读取表或查询,并以 replace 或 append 模式写入;写入后会运行 post-write 语句。 |
| JSON |
完整 |
JSON 解析 |
加载记录并展平嵌套字段。 |
| Kafka |
完整 |
导入:导入 Kafka;导出:导出 Kafka |
将一个主题作为一批消息读取,并将行作为消息写入。 |
| MongoDB |
完整 |
导入:MongoDB;导出:MongoDB |
通过您的 MongoDB 连接读取和写入集合。 |
| ORC |
完整 |
导入:ORC;导出:ORC |
读取和写入 ORC 文件。 |
| Parquet |
完整 |
导入:Parquet;导出:Parquet |
读取和写入 Parquet 文件。 |
| Pinecone |
完整 |
导入和导出:REST 请求 |
通过 Pinecone REST API 读取索引的记录,并将行作为向量 upsert。 |
| Redshift |
完整 |
带表导入的外部数据库连接 |
通过连接读取和写入。 |
| Salesforce |
完整 |
导入:Query Salesforce Object;导出:REST 请求 |
通过您的 Salesforce 连接读取对象或 SOQL 查询,并写入记录。 |
| Seed (inline) |
完整 |
导入:CSV |
将内联行加载为表。 |
| Slack |
完整 |
导入:Singer;导出:REST 请求 |
通过您的 Slack 连接读取频道消息,并将每行作为一条消息发布。 |
| Smartsheet |
完整 |
导入和导出:REST 请求 |
通过您的 Smartsheet 连接读取和写入工作表的行。 |
| Snowflake |
完整 |
带表导入的外部数据库连接 |
通过连接读取和写入。 |
| SQL file types (CSV, Excel, JSON, Parquet, Text, XML, fixed-width) |
完整 |
针对文档账户的导入和导出文件步骤 |
读取和写入该文件类型;没有 PlaidCloud 对应项的选项会被标记。 |
| Text |
完整 |
作为单列的导入:CSV |
将每一行读取为一列。 |
| Web page |
完整 |
REST 请求 |
将数据集 URL 处的页面读入表。 |
| XML |
完整 |
XML 解析 |
按行标签加载记录。 |
| 范围 |
状态 |
PlaidCloud 对应项 |
转换结果 |
| Expressions |
完整 |
逐函数翻译的 Spark 和仓库 SQL 表达式 |
函数和运算符会转换为 PlaidCloud 表达式;没有对应项的函数会按名称标记。 |
| Project and graph structure |
完整 |
项目加载器 |
每种 Prophecy 导出形态都会加载并规范化为同一个模型。 |
| 情形 |
会发生什么 |
| 导出中不包含的代码或数据 |
代码不在导出中的 Gem Builder 或其他自定义 gem,以及对导出中缺失的 dbt 包的宏调用,会成为一个指出缺失内容的步骤;请连同管道代码和 dbt 包一起导出项目,或在 Python 或 SQL 步骤中重建逻辑。Ab Initio Error Detection 和 MTime gem 会传递其输入,因为它们所应用的规则不在导出中。读取项目之外文件的 Soda 检查,以及与早期扫描或另一个数据集比较的 Soda 检查,或测试 Soda 所指明格式的检查,在结果表中没有对应行;请在后续步骤中计算它们。 |
| 仅在管道运行时才可知的结果 |
展平其响应的 REST API gem,在没有任何内容声明字段名称时会把整个响应放入一列,而这只有运行时才会揭示;请在后续步骤中提取您需要的字段。在 dbt 编译时查询仓库的 dbt 宏会成为一个指出它的步骤;请将查询替换为其返回的值。Spark StoredProcedure gem 可以运行,但不会返回其 OUT 值;输出是传递的列。input_file_name() 对表或 Delta 源返回空字符串,因为它们没有可命名的文件;聚合、窗口或多输入 gem 内的 hash() / xxhash64() 由仓库计算,因此可能与 Spark 的结果不同。 |
| 项目转换时写入步骤的值 |
包含引号、反斜杠或花括号的参数值、SQL 步骤读取的管道值,以及 Delta 表操作通过配置指定的数据库,都会作为固定值写入步骤,因此更改工作流变量不会改变它们;配置变化时请编辑该步骤。 |
| Scala 代码 |
Scala 脚本、Scala 表达式,或 Scala 用户定义函数或聚合函数,会成为一个指出它的步骤;请用 SQL 或 Python 重写。 |
| Kafka Kerberos 登录 |
使用 Kerberos(GSSAPI)登录的 Kafka 源或目标,转换后不带 Kerberos 服务名称和登录机制;请在 PlaidCloud 连接上设置它们。 |
| 流式处理 |
流式源、目标和管道会作为批处理工作流,对运行时存在的数据运行;请按需要的频率为工作流设置运行计划。 |
| 作业组件 |
Spark 作业会转换其唯一的管道和计划;其他组件、运行条件和配置覆盖不会被转换。 |
| 不常见的调用 |
在汇总或窗口中调用的用户定义聚合函数,以及使用了 if、for、set 和常用筛选器之外 Jinja 功能的 dbt 宏,会成为一个指出该 gem 的步骤;请从 Aggregate gem 中调用该函数,或将宏内联。 |
请将已转换工作流的输出与您自己的 Prophecy 管道的输出进行比较:结构、行数和行值。除非工作流依赖行顺序,否则可忽略行顺序。