跳转到内容

将一个或多个 Apache Kafka 主题的消息读取到项目表中,每条消息一行。步骤读取固定范围:从起始偏移量到结束偏移量,其中 latest 表示步骤启动时每个分区的末尾。步骤运行期间到达的消息不会被读取。步骤通过 Apache Kafka 连接访问 Kafka。

设置 必填 作用
Kafka 连接 是 用于读取的连接。
主题 二选一 要读取的主题,每行一个。
主题模式 二选一 用于选择要读取主题的正则表达式,用于替代主题。
目标表 是 消息写入的表。
设置 默认 作用
起始偏移量 earliest earliest、latest,或为每个分区指定偏移量的 JSON,例如 {"orders": {"0": 1200, "1": 980}}。在 JSON 中,-2 表示 earliest,-1 表示 latest。
结束偏移量 latest latest,或与起始偏移量形式相同的 JSON。
消息数量上限(0 = 全部) 0 最多读取的消息数。0 表示读取范围内的每条消息。
空闲超时(秒) 10 在这么多秒内没有新消息时,读取结束。
时间限制(秒) 10800 读取最长可以运行的时间。

偏移量可使用以 {name} 形式书写的工作流变量。

设置 作用
值格式 JSON、文本或 Avro。
Avro 架构(JSON) 消息值的 Avro 架构。当格式为 Avro 时必填。
额外的消费者设置(JSON) 以 JSON 对象形式给出的额外 Kafka 消费者设置,例如 {"fetch.min.bytes": 1}。只接受 PlaidCloud 允许的设置。

在映射选项卡上至少映射一列。一列可以读取消息的某个部分——key、value、topic、partition、offset、timestamp、timestamp_type 或 headers——也可以按路径读取已解析值中的某个字段。此步骤没有检查源,因此请手动输入列。