Zum Inhalt springen

Prophecy-Konvertierungsmatrix

PlaidCloud konvertiert Prophecy-Spark-Pipelines und SQL-Projekte in native erweiterte Workflows. Der Importer ordnet jedes Prophecy-Gem einem Workflow-Schritt, einer Projektvariablen oder einem Arbeitsflächenobjekt zu, sodass ein konvertierter Workflow Cloud-nativ ausgeführt wird und nicht als Emulation.

Jedes Gem, jeder Konnektor und jede Projektstruktur wird konvertiert: Vollständig bedeutet, dass das Gem zu einem nativen PlaidCloud-Schritt, einer Variablen oder einem Arbeitsflächenobjekt wird, das die Arbeit des Gems übernimmt. Die wenigen Verhaltensweisen, die ein konvertierter Workflow nicht von selbst abbildet, sind unter Bekannte Sonderfälle aufgeführt, jeweils mit dem, was zu tun ist.

Wie Sie eine Konvertierung durchführen, lesen Sie unter Prophecy-Projekte migrieren.

Gem Status PlaidCloud-Äquivalent Konvertierung
Lookup Vollständig Tabelle: Nachschlagen Jeder Lookup-Aufruf wird zu einem Schritt „Tabelle: Nachschlagen“ in dem Schritt, der ihn verwendet; ein Schlüssel ohne Treffer liefert NULL, und ein doppelter Schlüssel liefert eine seiner Zeilen.
Source Vollständig Import-Schritt, gewählt nach dem Datensatzformat (siehe Konnektoren) Jede Source wird zu einem Import-Schritt in eine Tabelle, die nach dem Datensatz benannt ist; ein Format, das der Konverter nicht erkennt, wird als CSV-Datei gelesen, die in den Dokumentordner des Workflows hochgeladen wurde, mit einer Warnung.
Streaming Source Vollständig Derselbe Import wie die Batch-Source Streaming-Quellen werden mit einer Warnung in einen einmaligen Batch-Import konvertiert.
Streaming Target Vollständig Batch-Append-Ladevorgang Streaming-Ziele werden mit einer Warnung in ein Batch-Append konvertiert.
Target Vollständig Tabellenexport-/Ladeschritt, gewählt nach Datensatzformat und writeMode Jedes Target wird zu einem Tabellenlade- oder Exportschritt im Schreibmodus des Gems: append, overwrite, merge mit seinen SET-Ausdrücken, upsert, SCD2, replaceWhere und insertInto.
Gem Status PlaidCloud-Äquivalent Konvertierung
Data Cleansing Vollständig Spaltenausdrücke in einem Schritt Table Extract Konvertiert die Optionen für Null-Auffüllung, Trimmen und Groß-/Kleinschreibung in Spaltenausdrücke; bereinigte Spalten wandern ans Ende.
Sequence Vollständig Table Extract mit Zeilennummernausdruck Fügt eine Sequenzspalte aus Startwert und Inkrement hinzu.
Surrogate Key Generator Vollständig Table Extract mit Zeilennummernausdruck Fügt einen fortlaufenden Schlüssel ab dem Anfangswert hinzu; Schlüssel werden über Ausführungen hinweg aus einer Tabelle fortgesetzt, die den zuletzt vergebenen Schlüssel enthält.
Gem Status PlaidCloud-Äquivalent Konvertierung
Aggregate Vollständig Table Extract mit Aggregation; Pivot, wenn das Gem pivotiert Gruppiert und aggregiert, wendet die HAVING-Bedingung an und pivotiert in eine Spalte je Pivot-Wert; propagate-all übernimmt jede andere Eingabespalte.
Bulk Column Expressions Vollständig Erweiterung zu einem Ausdruck je Spalte in einem Schritt Table Extract Ein Ausdruck je aufgeführter Spalte in einem Table-Extract-Schritt; die Konvertierung warnt, dass das Layout des Gems angenommen wird.
Bulk Column Rename Vollständig Spaltenumbenennung in einem Schritt Table Extract Eine Umbenennung je aufgeführter Spalte in einem Table-Extract-Schritt; die Konvertierung warnt, dass das Layout des Gems angenommen wird.
Deduplicate Vollständig Table Extract mit Distinct oder einem Zeilennummernfilter Behält eine Zeile je Schlüssel: distinct, erste oder letzte nach Ihrer Sortierreihenfolge, beliebige oder nur die Schlüssel, die einmal vorkommen.
Dynamic Replace Vollständig Dynamic-Replace-Transformation, von Hand konfiguriert Wird in Ersetzungsregeln der Dynamic-Replace-Transformation konvertiert; die Konvertierung warnt, dass das Layout des Gems angenommen wird.
Dynamic Select Vollständig Spaltenauswahl in einem Schritt Table Extract, nach Typ aufgelöst Löst Spalten zum Konvertierungszeitpunkt nach Typ in eine explizite Auswahl auf.
Filter Vollständig Table Extract mit Filterausdruck Wird in einen Table-Extract-Schritt mit Filterausdruck konvertiert; NULL-Bedingungen verwerfen die Zeile.
Flatten Schema Vollständig JSON parsen und Table Extract Flacht verschachtelte Felder in Spalten ab, die mit dem Trennzeichen des Gems benannt werden, und zerlegt Arrays in eine Zeile je Element.
Fuzzy Match Vollständig Table Extract und User Defined Transform Paart die Datensätze, bewertet jedes Abgleichsfeld nach der Methode des Gems, bildet den Durchschnitt der Bewertungen und behält die Paare ab Ihrem Schwellenwert.
Group By Rollup Vollständig Union von Table Extract-Aggregationsschritten je Rollup-Ebene Erweitert den Rollup in ein Aggregat je Gruppierungsebene, per Union mit NULL-Zwischensummen zusammengeführt.
Limit Vollständig Table Extract mit Zeilenlimit Wird in ein Zeilenlimit konvertiert; Konfigurationsverweise werden zu Projektvariablen.
Normalize Vollständig Table Extract mit Explode-Ausdruck Wiederholt jeden Datensatz entsprechend dem Längenausdruck, berechnet die Ausgabespalten je Index und endet am ersten Index, an dem die Abschlussbedingung zutrifft.
Order By Vollständig Sortierung in einem Schritt Table Extract Wird in eine Sortierung mit denselben Schlüsseln, derselben Richtung und derselben Platzierung von Nullwerten konvertiert.
Reformat Vollständig Table Extract mit Spaltenausdrücken Wird in einen Table-Extract-Schritt mit einem Ausdruck je Ausgabespalte konvertiert; nicht aufgeführte Spalten werden verworfen.
Sample Rows Vollständig Table Extract mit Zeilenlimit oder Zufallsstichprobe Behält einen zufälligen Anteil oder eine zufällige Anzahl von Zeilen; die gewählten Zeilen weichen vom Spark-Lauf ab, weil die Stichprobe zufällig ist.
Schema Transform Vollständig Kette von Table Extract-Schritten, der Reihe nach angewendet Wendet jede Operation der Reihe nach an: Spalte hinzufügen oder ersetzen, löschen, umbenennen, bei Fehlen mit ihrem Standardwert hinzufügen und eine Projekt-Geschäftsregel hinzufügen.
Set Operation Vollständig Union All; Anti-Join für except; Inner Join für intersect Union all stapelt die Eingaben; except all und intersect all behalten die richtige Anzahl doppelter Zeilen.
TransposeAgg Vollständig Table Extract mit Aggregation Konvertiert Gruppierung, Aggregate und Pivot des Gems als Aggregate, mit einer Warnung zur Überprüfung.
Unpivot Vollständig Melt Stapelt die ausgewählten Spalten in Namens- und Wertspalten.
Watermark Vollständig Kein Schritt erforderlich Verworfen: Eine Batch-Ausführung liest alle vorhandenen Daten, daher gibt es keine Schwelle für verspätete Daten, die anzuwenden wäre.
Window Function Vollständig Fensterausdrücke in einem Schritt Table Extract Fügt Fensterspalten mit Partition, Reihenfolge und Frame des Gems hinzu, Zeilen oder Bereich, mit unbegrenzten, zeilenaktuellen oder versetzten Grenzen.
Gem Status PlaidCloud-Äquivalent Konvertierung
Compare Columns Vollständig Full Outer Join plus Aggregate je Spalte Vergleicht die Spalten über einen Full Outer Join der entpivotierten Daten, mit Anzahlen für Übereinstimmungen und Abweichungen.
Join Vollständig Inner Join, Mehrtabellen-Join, Anti-Join oder Cross Join Erstellt den Join jedes Typs — inner, left, right, full, semi, anti, cross und natural — über eine beliebige Join-Bedingung, wendet die where-Klausel an und schreibt die Select-Liste.
Repartition Vollständig Kein Schritt erforderlich Verworfen: PlaidCloud verwaltet die Partitionierung, daher liest der nächste Schritt die vorgelagerte Tabelle direkt.
Row Distributor Vollständig Ein Table Extract-Filter je Ausgabe Wird in einen Filter je Ausgabe konvertiert; Zeilen können in mehreren Ausgaben landen.
Gem Status PlaidCloud-Äquivalent Konvertierung
Column Parser Vollständig JSON parsen / XML parsen Wird in ein JSON- oder XML-Parsen der benannten Spalte konvertiert; die Konvertierung warnt, dass das Layout des Gems angenommen wird.
Gem Status PlaidCloud-Äquivalent Konvertierung
Custom Gem (Gem Builder) Vollständig User Defined Transform, der den generierten Code des Gems ausführt Der generierte PySpark-Code des Gems aus dem Pipeline-Export wird in einem Python-Schritt ausgeführt, mit einer Warnung zur Überprüfung.
CustomReformatBitbucket Vollständig Table Extract Wird als das Reformat konvertiert, dessen Ausdrücke das Gem enthält, mit einer Warnung zur Überprüfung.
Data Quality Check Vollständig Union All mit einer Ergebniszeile je Prüfung; Workflow-Fehler auslösen, um bei Fehlern anzuhalten Wertet jede Prüfung über die Eingabe aus und schreibt eine Ergebniszeile je Prüfung mit Status und Meldung. Die Daten werden durchgereicht, und die Ausführung hält an, wenn der Fehlerschwellenwert des Gems erreicht wird.
Deequ Vollständig Table Extract-Prüfungen Reicht Daten durch und erstellt die Ergebnistabelle der Constraints für die Regeln isComplete, isUnique, isNonNegative und isContainedIn.
Delta Table Operations Vollständig Table In-Place Delete, Table Update, Table Drop, Table Restore to Timestamp Löschen, Aktualisieren, Verwerfen und Wiederherstellen auf einen Zeitstempel werden Tabellenschritten zugeordnet; optimize, vacuum und restore nach Version reichen die Daten mit einer Warnung durch.
Directory Vollständig Verzeichnisliste Listet die Dateien des gebundenen Dokumentordners in den Spalten des Gems auf; mit der Option für Blattnamen liefert jede Arbeitsmappe eine Zeile je Blatt. Ein fehlender Ordner liefert null Zeilen.
Email Vollständig Notify Via Email Sendet die E-Mail, optional mit Datenanhang, über eine gebundene E-Mail-Verbindung.
Email Data Vollständig Notify Via Email Sendet die Eingabezeilen als Tabelle per E-Mail und reicht die Eingabe unverändert durch.
File Operation Vollständig Copy Document File oder Copy Document Directory Kopiert, verschiebt oder synchronisiert Dateien aus dem gebundenen Dokumentordner in den Dokumentordner des konvertierten Workflows; ein Verschieben entfernt die Quelldateien.
Log Vollständig Table Extract Schreibt die Ereigniszeile des Gems (Zeit, Gem-Name, Ereignistyp und Text) in seine Ausgabetabelle.
REST API Enrich Vollständig REST-Anfrage Ruft die API einmal je Zeile auf und fügt die Antwortspalten hinzu.
Script Vollständig Python-Schritt mit umgeschriebenem Frame-Zugriff Bettet den Skriptrumpf in einen Python-Schritt ein, wobei der Data-Frame-Zugriff umgeschrieben wird; Scala-Rümpfe werden mit einem Hinweis übernommen.
Soda Data Quality Check Vollständig Table Extract-Prüfungen Erstellt die Ergebnistabelle der Prüfungen aus den Soda-Checks.
SQL Statement Vollständig SQL-Schritt je Ausgabe-Registerkarte, Text in den Dialekt des Mandanten übersetzt Bettet jede Registerkarte als SQL-Schritt ein, wobei Eingaben als temporäre Tabellen gebunden werden; in den Dialekt des Mandanten übersetzt.
Todo Vollständig Workflow-Fehler auslösen oder Notify via Log Markiert noch zu schreibende Logik: eine Protokollmeldung, wenn nichts sie liest, oder ein Schritt, der die Ausführung mit der Meldung des Gems anhält, wenn ein späterer Schritt davon abhängt.
Gem Status PlaidCloud-Äquivalent Konvertierung
Tableau Vollständig Publish to Tableau Schreibt einen Hyper-Extrakt und veröffentlicht ihn über die gebundene Tableau-Verbindung.
Gem Status PlaidCloud-Äquivalent Konvertierung
Bedrock Vollständig Text NLP AI Erzeugt Embeddings der Textspalte über die KI-Verbindung des Workspace.
OpenAI Vollständig Text NLP AI Beantwortet Fragen oder erzeugt Text-Embeddings über die KI-Verbindung des Workspace.
Pinecone Lookup Vollständig REST-Anfrage Fragt den Pinecone-Index für jede Zeile ab und fügt die Spalten pinecone_matches und pinecone_error hinzu.
SageMaker Endpoint Vollständig Text NLP AI Beantwortet Fragen über die KI-Verbindung des Workspace.
Text Processing Vollständig Table Extract für die Chunk-Aufteilung; REST-Anfrage für Web Scraping Die Chunk-Aufteilung wird zu einem Zeichen-Chunk-Ausdruck; Web Scraping ruft die URL jeder Zeile ab und fügt den Seiteninhalt wieder an die Zeile an.
Gem Status PlaidCloud-Äquivalent Konvertierung
Control Flow Input Vollständig Verworfen (nur Grenzmarkierung) Verworfen; es markiert nur die Eingabegrenze des Iterator-Unterworkflows.
Control Flow Output Vollständig Verworfen (nur Grenzmarkierung) Verworfen; es markiert nur die Ausgabegrenze des Iterator-Unterworkflows.
Subgraph (Basic) Vollständig Arbeitsflächen-Container / verschachtelter Workflow aus Inline-Prozessen Konvertiert den Inline-Innengraphen in einen verschachtelten Workflow (oder aufgelöste Schritte) mit Ein-/Ausgabe-Tabellenparametern.
Table Iterator Vollständig Workflow Loop Führt den Schleifenrumpf einmal je Eingabezeile aus und setzt jeden Konfigurationswert aus seiner Spalte, bis maxIteration.
While Iterator Vollständig Workflow Loop Führt den Schleifenrumpf einmal je Durchlauf aus und übergibt die Iterationsnummer, bis der Rumpf keine Zeilen mehr zurückgibt oder das Maximum des Gems erreicht ist.
Gem Status PlaidCloud-Äquivalent Konvertierung
External table Source/Target (BigQuery, Databricks, SAP HANA, MongoDB, MSSQL, Oracle, Postgres, Redshift, Salesforce, Snowflake, Synapse) Vollständig Import-/Export-Schritt für externe Daten mit der passenden Datenbankverbindung Liest oder schreibt eine Tabelle in einer externen Datenbank über eine PlaidCloud-Verbindung.
File storage Source/Target (ADLS, Databricks Volumes, GCS, OneDrive, S3, SFTP, SharePoint, Smartsheet) Vollständig Import-/Export-Dateischritte gegen ein Dokumentenkonto (ADLS/GCS/S3/SFTP/SharePoint/OneDrive) Liest oder schreibt Dateien in Cloud-/SFTP-Speicher mit Platzhalter-Union, Trigger, Löschen/Verschieben und Verschlüsselungsoptionen.
Model Vollständig Ausgabetabelle des vorgelagerten Schritts Liest ein anderes Modell als die Tabelle, die der referenzierte vorgelagerte Schritt erzeugt.
Seed Vollständig Import: CSV Die Seed-CSV wird in eine PlaidCloud-Tabelle importiert.
Source Vollständig Import-Schritt, gewählt nach dem Datensatzformat (siehe Konnektoren) Jede Source wird zu einem Import-Schritt in eine Tabelle, die nach dem Datensatz benannt ist; ein Format, das der Konverter nicht erkennt, wird als CSV-Datei gelesen, die in den Dokumentordner des Workflows hochgeladen wurde, mit einer Warnung.
Target Model / Table (Target) Vollständig Table Extract, Upsert, Tabelle kopieren und Union All Schreibt das abschließende Select des Modells in eine PlaidCloud-Tabelle als replace, append, upsert, delete-and-insert, SCD2 oder replace by predicate.
Upload Files Vollständig Import: CSV Hochgeladene lokale Dateien werden über einen Import-Schritt zu einer Tabelle.
Gem Status PlaidCloud-Äquivalent Konvertierung
Data Cleansing Vollständig Spaltenausdrücke in einem Schritt Table Extract Konvertiert die Optionen für Null-Auffüllung, Trimmen und Groß-/Kleinschreibung in Spaltenausdrücke; bereinigte Spalten wandern ans Ende.
Data Masking Vollständig Spaltenausdrücke für Zeichenmaskierung oder Hashing Maskiert oder hasht ausgewählte Textspalten an Ort und Stelle oder als neue Spalten.
Find Duplicates Vollständig Fensterausdruck mit Zeilennummer plus Filter Liefert je Schlüssel eindeutige Zeilen, doppelte Zeilen oder nach Anzahl/Position ausgewählte Zeilen.
Generate Rows Vollständig Sequenztabelle, je Eingabezeile verknüpft und gefiltert Erzeugt je Eingabezeile Zeilen aus Init-, Bedingungs- und Schleifenausdrücken.
Imputation Vollständig Aggregat plus Rück-Join und Spaltenausdruck Ersetzt Nullwerte oder Platzhalterwerte durch Durchschnitt, Median, Modus oder einen festen Wert.
Multi-Column Edit Vollständig Ausdrücke je Spalte, aus der Vorlage erweitert Wendet eine Ausdrucksvorlage auf jede ausgewählte Spalte an.
Multi-Column Rename Vollständig Zuordnung zur Spaltenumbenennung in einem Select-Schritt Benennt ausgewählte Spalten per Präfix, Suffix oder Namensausdruck um.
Record ID Vollständig Spaltenausdruck mit Zeilennummer oder UUID Fügt eine Spalte mit UUID oder fortlaufender Datensatz-ID hinzu.
Sample Vollständig Zeilenlimit oder Stichprobenoption beim Extrahieren Nimmt erste/letzte/zufällige/jede n-te Zeilen oder Prozent der Zeilen insgesamt oder je Gruppe.
Tile Vollständig Fensterausdrücke für Tile-Nummer und Sequenz Vergibt Tile-Nummern nach gleicher Summe, Anzahl, Standardabweichungsbändern, eindeutigen Werten oder manuellen Grenzen.
Gem Status PlaidCloud-Äquivalent Konvertierung
Aggregate Vollständig Table Extract mit Aggregation; Pivot, wenn das Gem pivotiert Gruppiert und aggregiert, wendet die HAVING-Bedingung an und pivotiert in eine Spalte je Pivot-Wert; propagate-all übernimmt jede andere Eingabespalte.
Count Records Vollständig Aggregationsschritt mit Zählfunktionen Liefert Gesamtanzahl, Anzahl nicht leerer oder eindeutiger Werte als eine Zeile.
Data Encoder/Decoder Vollständig Spaltenausdrücke für base64-/hex-Kodierung und -Dekodierung Kodiert oder dekodiert ausgewählte Spalten; AES nur auf Databricks.
Deduplicate Vollständig Table Extract mit Distinct oder einem Zeilennummernfilter Behält eine Zeile je Schlüssel: distinct, erste oder letzte nach Ihrer Sortierreihenfolge, beliebige oder nur die Schlüssel, die einmal vorkommen.
Dynamic Select Vollständig Spaltenauswahl in einem Schritt Table Extract, nach Typ aufgelöst Löst Spalten zum Konvertierungszeitpunkt nach Typ in eine explizite Auswahl auf.
Filter Vollständig Table Extract mit Filterausdruck Wird in einen Table-Extract-Schritt mit Filterausdruck konvertiert; NULL-Bedingungen verwerfen die Zeile.
Finance Vollständig Spaltenausdruck, der die Finanzfunktion umsetzt Hängt das Ergebnis einer Finanzfunktion (FV, PV, NPV, IRR, …) als neue Spalte an.
Flatten Schema Vollständig JSON parsen und Table Extract Flacht verschachtelte Felder in Spalten ab, die mit dem Trennzeichen des Gems benannt werden, und zerlegt Arrays in eine Zeile je Element.
Fuzzy Match Vollständig Table Extract und User Defined Transform Paart die Datensätze, bewertet jedes Abgleichsfeld nach der Methode des Gems, bildet den Durchschnitt der Bewertungen und behält die Paare ab Ihrem Schwellenwert.
Limit Vollständig Table Extract mit Zeilenlimit Wird in ein Zeilenlimit konvertiert; Konfigurationsverweise werden zu Projektvariablen.
Order By Vollständig Sortierung in einem Schritt Table Extract Wird in eine Sortierung mit denselben Schlüsseln, derselben Richtung und derselben Platzierung von Nullwerten konvertiert.
Pivot Vollständig Pivot Wandelt die ausgewählten Pivot-Werte in Aggregatspalten um; eine im Simple-Modus zur Entwurfszeit abgerufene Werteliste wird als die aufgeführten Werte konvertiert.
Reformat Vollständig Table Extract mit Spaltenausdrücken Wird in einen Table-Extract-Schritt mit einem Ausdruck je Ausgabespalte konvertiert; nicht aufgeführte Spalten werden verworfen.
Running Total Vollständig Spalte mit kumulativem Summen-Fensterausdruck Hängt je ausgewählter Spalte kumulative Summen an.
Snowflake Unpivot (third-party) Vollständig Melt Entpivotiert Spalten über Snowflake UNPIVOT.
Transpose Vollständig Melt Stapelt Datenspalten in Namens- und Zeichenfolgen-Wertspalten.
TransposeAgg Vollständig Table Extract mit Aggregation Konvertiert Gruppierung, Aggregate und Pivot des Gems als Aggregate, mit einer Warnung zur Überprüfung.
Unpivot Vollständig Melt Stapelt Datenspalten in Namens- und Wertspalten.
Weighted Average Vollständig Aggregationsschritt mit Ausdruck für den gewichteten Durchschnitt Berechnet einen gewichteten Mittelwert insgesamt oder je Gruppe.
Window Function Vollständig Fensterausdrücke in einem Schritt Table Extract Fügt Fensterspalten mit Partition, Reihenfolge und Frame des Gems hinzu, Zeilen oder Bereich, mit unbegrenzten, zeilenaktuellen oder versetzten Grenzen.
Gem Status PlaidCloud-Äquivalent Konvertierung
Except Vollständig Anti-Join über alle Spalten plus ein Distinct-Table Extract Behält Zeilen der ersten Eingabe, die in keiner der anderen Eingaben vorkommen.
Intersect Vollständig Inner Join über alle Spalten plus Distinct Behält Zeilen, die in jeder Eingabe vorhanden sind.
Join Vollständig Inner Join, Mehrtabellen-Join, Anti-Join oder Cross Join Erstellt den Join jedes Typs — inner, left, right, full, semi, anti, cross und natural — über eine beliebige Join-Bedingung, wendet die where-Klausel an und schreibt die Select-Liste.
Union Vollständig Union All Stapelt die Eingaben nach Position und entfernt Duplikate, wenn das Gem sie nicht behält.
Union By Name Vollständig Union All Wird zu einem Union All, das Spalten nach Namen ausrichtet und fehlende mit Null auffüllt.
Gem Status PlaidCloud-Äquivalent Konvertierung
JSON Parse Vollständig JSON parsen Parst eine JSON-Textspalte in strukturierte Felder.
Regex Vollständig Regex-Ausdrücke in einem Table-Extract-/Transform-Schritt Ersetzt, parst, vergleicht oder tokenisiert eine Textspalte mit einem regulären Ausdruck.
Text To Columns Vollständig Schritte zum Aufteilen von Spalten / Explode mit Regex-Trennzeichen Teilt eine getrennte Spalte mithilfe eines Regex-Trennzeichens in Spalten oder Zeilen auf.
XML Parse Vollständig XML parsen Parst eine XML-Textspalte in strukturierte Felder.
Gem Status PlaidCloud-Äquivalent Konvertierung
Directory Vollständig Verzeichnisliste Listet die Dateien des gebundenen Dokumentordners in den Spalten des Gems auf; mit der Option für Blattnamen liefert jede Arbeitsmappe eine Zeile je Blatt. Ein fehlender Ordner liefert null Zeilen.
DynamicInput Vollständig SQL-Schritt für Abfragevorlagen; Workflow-Schleife für den Mehrdatei-Modus Der Abfragevorlagen-Modus bettet die Vorlage als SQL-Schritt ein; der Mehrdatei-Modus wird mit Annahmen zugeordnet.
Email Vollständig Notify Via Email Sendet die E-Mail, optional mit Datenanhang, über eine gebundene E-Mail-Verbindung.
RestAPI Vollständig REST-Anfrage Sendet eine Anfrage je Eingabezeile mit Ihrer URL, Ihren Headern, Abfrage, Ihrem Body und Wiederholungen, behält die Antwort und fragt eine asynchrone Anfrage ab, bis sie abgeschlossen ist. Die Anmeldedaten stammen aus der Verbindung, die Sie binden.
Script Vollständig Python-Schritt mit umgeschriebenem Frame-Zugriff Bettet den Skriptrumpf in einen Python-Schritt ein, wobei der Data-Frame-Zugriff umgeschrieben wird; Scala-Rümpfe werden mit einem Hinweis übernommen.
SQL Statement Vollständig SQL-Schritt je Ausgabe-Registerkarte, Text in den Dialekt des Mandanten übersetzt Bettet jede Registerkarte als SQL-Schritt ein, wobei Eingaben als temporäre Tabellen gebunden werden; in den Dialekt des Mandanten übersetzt.
StoredProcedure Vollständig Agent Remote Execution of SQL Ruft die Prozedur in ihrem Warehouse über die von Ihnen gewählte Verbindung auf: einmal je Eingabezeile, wobei jedes Argument aus seiner Spalte gebunden wird, oder einmal, wenn sie keine Argumente hat. Die Eingabespalten werden durchgereicht.
Table Operations Vollständig Table In-Place Delete, Table Update, Table Drop Update, delete und drop werden Tabellenschritten zugeordnet; vacuum und optimize werden zu einer Tabellenoptimierung oder, mit einer Warnung, zu einem No-op.
ToDo Vollständig Workflow-Fehler auslösen oder Notify via Log Markiert noch zu schreibende Logik: eine Protokollmeldung, wenn nichts sie liest, oder ein Schritt, der die Ausführung mit der Meldung des Gems anhält, wenn ein späterer Schritt davon abhängt.
Gem Status PlaidCloud-Äquivalent Konvertierung
Buffer Vollständig Spatial Buffer Vergrößert jede Geometrie um die konfigurierte Entfernung in Meilen oder Kilometern.
CreatePoint Vollständig Table Extract mit geom_point Erstellt Punktgeometrie aus Längen- und Breitengradspalten.
Distance Vollständig Table Extract Berechnet Entfernung, Himmelsrichtung und Peilung zwischen zwei WKT-Punkten.
FindNearest Vollständig Table Extract mit Cross Join Findet für jeden Quellpunkt die N nächstgelegenen Zielpunkte innerhalb einer maximalen Entfernung.
HeatMap Vollständig Heat Map (macro) Ordnet Punkte H3-Hexagonen mit der Auflösung des Gems zu, verteilt die Wärme mit ihrem Abklingen über die Rasterdistanz und liefert Dichte und Umriss jedes Hexagons.
PolyBuild Vollständig Table Extract und ein Python-Schritt Erstellt Polygon- oder Polylinien-WKT aus geordneten Punkten je Gruppe.
Simplify Vollständig Spatial Generalize Vereinfacht WKT-Geometrien um eine Toleranz in Meilen/km.
SpatialMatch Vollständig Räumlicher Abgleich Gleicht Quell- und Zielgeometrien nach intersects/contains/within/touches/envelope ab.
Gem Status PlaidCloud-Äquivalent Konvertierung
PowerBIWrite Vollständig REST-Anfrage Erstellt das Power-BI-Dataset und überträgt die Zeilen über die Power BI REST API.
TableauWrite Vollständig Publish to Tableau Schreibt einen Hyper-Extrakt und veröffentlicht ihn über die gebundene Tableau-Verbindung.
Visualize Vollständig Tabelle kopieren Reicht die Zeilen unverändert weiter; erstellen Sie das Diagramm als PlaidCloud-Dashboard auf derselben Tabelle.
Gem Status PlaidCloud-Äquivalent Konvertierung
Condition Vollständig Cross Join und Table Extract Wertet die Bedingungen über die gesamte Eingabe aus und sendet jede Zeile an die erste Ausgabe, deren Bedingung zutrifft, sonst an die letzte Ausgabe.
Macro Vollständig SQL-Schritt mit aufgelöstem Makro-Rumpf Bettet den Makro-Rumpf als in den Dialekt des Mandanten übersetzten SQL-Schritt ein, mit als temporäre Tabellen gebundenen Eingaben.
Pipeline (trigger) Vollständig Workflow Loop Führt die benannte Pipeline einmal je Eingabezeile mit Ihren Parametern und Ihrer Trigger-Bedingung aus, fährt nach einer fehlgeschlagenen Ausführung fort und liefert eine Zeile je Ausführung.
Subgraph (Basic) Vollständig Arbeitsflächen-Container / verschachtelter Workflow aus Inline-Prozessen Konvertiert den Inline-Innengraphen in einen verschachtelten Workflow (oder aufgelöste Schritte) mit Ein-/Ausgabe-Tabellenparametern.

Datensatzformate und Konnektoren sind Quell- und Zieleinstellungen eines Gems, keine Gems. Jedes Format wird in den angegebenen Import- oder Exportschritt konvertiert, und die Konvertierung kontaktiert nie das Quell- oder Zielsystem.

Format Status PlaidCloud-Äquivalent Konvertierung
Avro Vollständig Import: Avro; Export: Avro Liest und schreibt Avro-Dateien.
BigQuery Vollständig Externe Datenbankverbindung mit Tabellenimport Liest und schreibt über eine Verbindung.
Binary files Vollständig Verzeichnisliste mit Dateiinhalten; Alteryx-Executor zum Schreiben Liest jede Datei des Ordners mit Pfad, Änderungszeit, Länge und Inhalt; schreibt den Inhalt jeder Zeile in die Datei, die ihr Pfad benennt.
Catalog table Vollständig Bindung an eine vorhandene PlaidCloud-Tabelle Bindet per Namen an eine Tabelle; Lesen und jeder Schreibmodus werden konvertiert.
Cosmos DB Vollständig Import und Export: REST-Anfrage Liest und schreibt die Dokumente des Containers über Ihre Cosmos-DB-Verbindung.
CSV Vollständig Import: CSV; Export: CSV Liest und schreibt getrennte Dateien mit Optionen für Header, Trennzeichen, Anführungszeichen, Escape und Kodierung.
Data Generator Vollständig Table Faker Erzeugt die Spalten des Datensatzes mit denselben Arten von Fake-Daten.
DataHub table Vollständig SQL importieren Liest die Tabelle, die der Datensatz benennt, über Ihre Verbindung; ein Schreibvorgang landet in einer PlaidCloud-Tabelle.
Delta Vollständig Bindung an eine vorhandene PlaidCloud-Tabelle Liest und schreibt die Tabelle in jedem Schreibmodus; das Lesen einer früheren Version erfolgt über die Databricks-Verbindung, die Sie binden.
Excel (XLSX) Vollständig Import: Excel; Export: Excel Liest und schreibt Blätter und Bereiche von Arbeitsmappen.
Fixed format Vollständig Import: Feste Breite; Export: CSV Liest Dateien mit fester Breite, deren Layout sich aus den Spaltenbreiten des Datensatzes ergibt; schreibt eine getrennte Datei.
Hive Vollständig Import: SQL importieren; Export: Externe Tabellen Liest und schreibt die Tabelle über Ihre Hive-Verbindung.
Iceberg Vollständig Bindung an eine vorhandene PlaidCloud-Tabelle Liest und schreibt die Tabelle.
JDBC Vollständig Externe Datenbankverbindung mit Tabellenimport Liest eine Tabelle oder Abfrage und schreibt im Replace- oder Append-Modus über Ihre Verbindung; eine Anweisung nach dem Schreiben wird nach dem Schreibvorgang ausgeführt.
JSON Vollständig JSON parsen Lädt Datensätze und flacht verschachtelte Felder ab.
Kafka Vollständig Import: Kafka importieren; Export: Kafka exportieren Liest ein Topic als einen Batch von Nachrichten und schreibt Zeilen als Nachrichten.
MongoDB Vollständig Import: MongoDB; Export: MongoDB Liest und schreibt die Collection über Ihre MongoDB-Verbindung.
ORC Vollständig Import: ORC; Export: ORC Liest und schreibt ORC-Dateien.
Parquet Vollständig Import: Parquet; Export: Parquet Liest und schreibt Parquet-Dateien.
Pinecone Vollständig Import und Export: REST-Anfrage Liest die Datensätze eines Index und führt Upserts von Zeilen als Vektoren über die Pinecone REST API durch.
Redshift Vollständig Externe Datenbankverbindung mit Tabellenimport Liest und schreibt über eine Verbindung.
Salesforce Vollständig Import: Query Salesforce Object; Export: REST-Anfrage Liest ein Objekt oder eine SOQL-Abfrage und schreibt Datensätze über Ihre Salesforce-Verbindung.
Seed (inline) Vollständig Import: CSV Lädt die Inline-Zeilen als Tabelle.
Slack Vollständig Import: Singer; Export: REST-Anfrage Liest Kanalnachrichten und postet jede Zeile als Nachricht über Ihre Slack-Verbindung.
Smartsheet Vollständig Import und Export: REST-Anfrage Liest und schreibt die Zeilen des Sheets über Ihre Smartsheet-Verbindung.
Snowflake Vollständig Externe Datenbankverbindung mit Tabellenimport Liest und schreibt über eine Verbindung.
SQL file types (CSV, Excel, JSON, Parquet, Text, XML, fixed-width) Vollständig Import- und Export-Dateischritte gegen ein Dokumentenkonto Liest und schreibt den Dateityp; Optionen ohne PlaidCloud-Äquivalent werden gekennzeichnet.
Text Vollständig Import: CSV als einzelne Spalte Liest jede Zeile als eine Spalte.
Web page Vollständig REST-Anfrage Liest die Seite unter der URL des Datensatzes in eine Tabelle.
XML Vollständig XML parsen Lädt Datensätze nach Zeilen-Tag.
Bereich Status PlaidCloud-Äquivalent Konvertierung
Expressions Vollständig Spark- und Warehouse-SQL-Ausdrücke, Funktion für Funktion übersetzt Funktionen und Operatoren werden in PlaidCloud-Ausdrücke konvertiert; eine Funktion ohne Äquivalent wird namentlich gekennzeichnet.
Project and graph structure Vollständig Projekt-Loader Jede Prophecy-Exportform wird geladen und in ein Modell normalisiert.
Fall Was geschieht
Code oder Daten, die der Export nicht enthält Ein Gem Builder oder ein anderes benutzerdefiniertes Gem, dessen Code nicht im Export enthalten ist, und der Aufruf eines Makros eines dbt-Pakets, das der Export auslässt, werden zu einem Schritt, der benennt, was fehlt; exportieren Sie das Projekt mit seinem Pipeline-Code und den dbt-Paketen oder bauen Sie die Logik in einem Python- oder SQL-Schritt nach. Ab-Initio-Gems für Error Detection und MTime reichen ihre Eingabe durch, weil die Regel, die sie anwenden, nicht im Export enthalten ist. Soda-Checks, die aus einer Datei außerhalb des Projekts lesen, und Soda-Checks, die mit früheren Scans oder mit einem anderen Datensatz vergleichen oder ein von Soda benanntes Format prüfen, haben keine Zeile in der Ergebnistabelle; berechnen Sie sie in einem späteren Schritt.
Ergebnisse, die erst bekannt sind, wenn die Pipeline läuft Ein REST-API-Gem, das seine Antwort abflacht, legt die gesamte Antwort in eine Spalte, wenn nichts die Feldnamen deklariert, was erst eine Ausführung offenbart; extrahieren Sie die benötigten Felder in einem späteren Schritt. Ein dbt-Makro, das das Warehouse abfragt, während dbt kompiliert, wird zu einem Schritt, der es benennt; ersetzen Sie die Abfrage durch die Werte, die sie zurückgibt. Ein Spark-StoredProcedure-Gem wird ausgeführt, aber seine OUT-Werte werden nicht zurückgegeben; die Ausgabe sind die durchgereichten Spalten. input_file_name() liefert über einer Tabellen- oder Delta-Quelle, die keine Datei zu benennen hat, eine leere Zeichenfolge, und hash() / xxhash64() innerhalb eines Aggregats, eines Fensters oder eines Gems mit mehreren Eingaben werden vom Warehouse berechnet, sodass sie von Spark abweichen können.
Werte, die bei der Konvertierung des Projekts in einen Schritt geschrieben werden Ein Parameterwert mit Anführungszeichen, Backslash oder geschweifter Klammer, ein Pipeline-Wert, den ein SQL-Schritt liest, und die Datenbank, die eine Delta-Tabellenoperation über die Konfiguration benennt, werden als feste Werte in den Schritt geschrieben, sodass eine Änderung der Workflow-Variablen sie nicht ändert; bearbeiten Sie den Schritt, wenn sich die Konfiguration ändert.
Scala-Code Ein Scala-Skript, ein Scala-Ausdruck oder eine benutzerdefinierte Scala-Funktion oder Aggregatfunktion wird zu einem Schritt, der sie benennt; schreiben Sie sie in SQL oder Python neu.
Kafka-Kerberos-Anmeldung Eine Kafka-Quelle oder ein Kafka-Ziel, das sich per Kerberos (GSSAPI) anmeldet, wird ohne den Kerberos-Dienstnamen und den Anmeldemechanismus konvertiert; legen Sie sie in der PlaidCloud-Verbindung fest.
Streaming Streaming-Quellen, -Ziele und -Pipelines werden als Batch-Workflows über die zum Zeitpunkt der Ausführung vorhandenen Daten ausgeführt; planen Sie den Workflow so oft ein, wie Sie ihn benötigen.
Job-Komponenten Ein Spark-Job wird mit seiner einen Pipeline und seinem Zeitplan konvertiert; seine anderen Komponenten, Ausführungsbedingungen und Konfigurationsüberschreibungen werden nicht konvertiert.
Seltene Aufrufe Eine benutzerdefinierte Aggregatfunktion, die aus einem Rollup oder einem Fenster aufgerufen wird, und ein dbt-Makro, das Jinja über if, for, set und die gängigen Filter hinaus verwendet, werden zu einem Schritt, der das Gem benennt; rufen Sie die Funktion aus einem Aggregate-Gem auf oder lösen Sie das Makro inline auf.

Vergleichen Sie die Ausgabe des konvertierten Workflows mit der Ausgabe Ihrer eigenen Prophecy-Pipeline: Schema, Zeilenanzahl und Zeilenwerte. Ignorieren Sie die Zeilenreihenfolge, sofern der Workflow nicht von ihr abhängt.