Macierz konwersji Prophecy
PlaidCloud konwertuje potoki Spark i projekty SQL Prophecy na natywne zaawansowane przepływy pracy. Importer mapuje każdy gem Prophecy na krok przepływu pracy, zmienną projektu lub obiekt kanwy, dzięki czemu skonwertowany przepływ pracy działa natywnie w chmurze, a nie jako emulacja.
Każdy gem, konektor i struktura projektu podlega konwersji: Pełny oznacza, że gem staje się natywnym krokiem, zmienną lub obiektem kanwy PlaidCloud, który wykonuje pracę gemu. Nieliczne zachowania, których skonwertowany przepływ pracy nie odtwarza samodzielnie, wymieniono w sekcji Znane przypadki brzegowe, każde wraz z tym, co należy zrobić.
Aby przeprowadzić konwersję, zobacz Migracja projektów Prophecy.
Gemy potoków Spark
Dział zatytułowany „Gemy potoków Spark”Źródło/cel
Dział zatytułowany „Źródło/cel”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Lookup | Pełny | Tabela: wyszukiwanie | Każde wywołanie lookup staje się krokiem wyszukiwania w kroku, który go używa; klucz bez dopasowania zwraca NULL, a zduplikowany klucz zwraca jeden ze swoich wierszy. |
| Source | Pełny | Krok importu wybrany według formatu zbioru danych (zobacz Konektory) | Każdy Source staje się krokiem importu do tabeli nazwanej od zbioru danych; format nierozpoznany przez konwerter jest odczytywany jako plik CSV przesłany do folderu dokumentów przepływu pracy, z ostrzeżeniem. |
| Streaming Source | Pełny | Ten sam import co dla wsadowego Source | Źródła strumieniowe konwertują się na jednorazowy import wsadowy z ostrzeżeniem. |
| Streaming Target | Pełny | Wsadowe ładowanie z dołączaniem | Cele strumieniowe konwertują się na wsadowe dołączanie z ostrzeżeniem. |
| Target | Pełny | Krok eksportu/ładowania tabeli wybrany według formatu zbioru danych i writeMode | Każdy Target staje się krokiem ładowania lub eksportu tabeli w trybie zapisu gemu: append, overwrite, merge z wyrażeniami SET, upsert, SCD2, replaceWhere i insertInto. |
Przygotowanie
Dział zatytułowany „Przygotowanie”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Data Cleansing | Pełny | Wyrażenia kolumn w kroku Table Extract | Konwertuje opcje wypełniania wartości null, przycinania i wielkości liter na wyrażenia kolumn; oczyszczone kolumny przechodzą na koniec. |
| Sequence | Pełny | Krok Table Extract z wyrażeniem numeru wiersza | Dodaje kolumnę sekwencji na podstawie wartości początkowej i przyrostu. |
| Surrogate Key Generator | Pełny | Krok Table Extract z wyrażeniem numeru wiersza | Dodaje klucz sekwencyjny od wartości początkowej; klucze są kontynuowane między uruchomieniami z tabeli przechowującej ostatnio wydany klucz. |
Transformacja
Dział zatytułowany „Transformacja”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Aggregate | Pełny | Krok Table Extract z agregacją; krok Pivot, gdy gem wykonuje pivot | Grupuje i agreguje, stosuje warunek HAVING oraz obraca do jednej kolumny na wartość pivot; propagate-all przenosi wszystkie pozostałe kolumny wejściowe. |
| Bulk Column Expressions | Pełny | Rozwinięcie do jednego wyrażenia na kolumnę w kroku Table Extract | Jedno wyrażenie na każdą wymienioną kolumnę w kroku Table Extract; konwersja ostrzega, że przyjęto układ gemu. |
| Bulk Column Rename | Pełny | Zmiana nazwy kolumny w kroku Table Extract | Jedna zmiana nazwy na każdą wymienioną kolumnę w kroku Table Extract; konwersja ostrzega, że przyjęto układ gemu. |
| Deduplicate | Pełny | Krok Table Extract z distinct lub filtrem numeru wiersza | Zachowuje jeden wiersz na klucz: distinct, pierwszy lub ostatni według kolejności sortowania, dowolny albo tylko klucze występujące raz. |
| Dynamic Replace | Pełny | Transformacja dynamic replace, konfigurowana ręcznie | Konwertuje na reguły zamiany w transformacji dynamic replace; konwersja ostrzega, że przyjęto układ gemu. |
| Dynamic Select | Pełny | Wybór kolumn w kroku Table Extract rozstrzygany według typu | Rozstrzyga kolumny według typu w czasie konwersji do jawnego wyboru. |
| Filter | Pełny | Krok Table Extract z wyrażeniem filtru | Konwertuje na krok Table Extract z wyrażeniem filtru; warunki NULL odrzucają wiersz. |
| Flatten Schema | Pełny | Kroki Parsowanie JSON i Table Extract | Spłaszcza zagnieżdżone pola do kolumn nazwanych z użyciem separatora gemu i rozwija tablice do jednego wiersza na element. |
| Fuzzy Match | Pełny | Kroki Table Extract i User Defined Transform | Łączy rekordy w pary, ocenia każde pole dopasowania metodą gemu, uśrednia oceny i zachowuje pary na poziomie progu lub powyżej niego. |
| Group By Rollup | Pełny | Suma zbiorów kroków agregacji Table Extract dla każdego poziomu rollup | Rozwija rollup do jednej agregacji na poziom grupowania, połączonych sumą zbiorów z podsumami NULL. |
| Limit | Pełny | Krok Table Extract z limitem wierszy | Konwertuje na limit wierszy; odwołania do konfiguracji stają się zmiennymi projektu. |
| Normalize | Pełny | Krok Table Extract z wyrażeniem rozwijającym | Powtarza każdy rekord zgodnie z wyrażeniem długości, oblicza kolumny wyjściowe dla każdego indeksu i zatrzymuje się na pierwszym indeksie, przy którym spełniony jest warunek zakończenia. |
| Order By | Pełny | Sortowanie w kroku Table Extract | Konwertuje na sortowanie z tymi samymi kluczami, kierunkiem i położeniem wartości null. |
| Reformat | Pełny | Krok Table Extract z wyrażeniami kolumn | Konwertuje na krok Table Extract z jednym wyrażeniem na kolumnę wyjściową; kolumny niewymienione są odrzucane. |
| Sample Rows | Pełny | Krok Table Extract z limitem wierszy lub próbką losową | Zachowuje losowy ułamek lub liczbę wierszy; wybrane wiersze różnią się od uruchomienia Spark, ponieważ próbkowanie jest losowe. |
| Schema Transform | Pełny | Łańcuch kroków Table Extract stosowanych po kolei | Stosuje każdą operację po kolei: dodanie lub zastąpienie kolumny, usunięcie, zmiana nazwy, dodanie w razie braku z wartością domyślną oraz dodanie reguły biznesowej projektu. |
| Set Operation | Pełny | Tabela: suma wszystkich; Złączenie anty dla except; Złączenie wewnętrzne dla intersect | Union all układa wejścia jedno na drugim; except all i intersect all zachowują właściwą liczbę zduplikowanych wierszy. |
| TransposeAgg | Pełny | Krok Table Extract z agregacją | Konwertuje grupowanie, agregacje i pivot gemu jako Aggregate, z ostrzeżeniem o konieczności przeglądu. |
| Unpivot | Pełny | Krok Melt | Układa wybrane kolumny w kolumny nazwy i wartości. |
| Watermark | Pełny | Krok niepotrzebny | Pominięty: uruchomienie wsadowe odczytuje wszystkie obecne dane, więc nie ma progu odcięcia dla spóźnionych danych. |
| Window Function | Pełny | Wyrażenia okna w kroku Table Extract | Dodaje kolumny okna z partycją, kolejnością i ramką gemu, wierszami lub zakresem, z granicami nieograniczonymi, bieżącego wiersza lub z przesunięciem. |
Złączenie/podział
Dział zatytułowany „Złączenie/podział”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Compare Columns | Pełny | Pełne złączenie zewnętrzne plus agregaty dla każdej kolumny | Porównuje kolumny przez pełne złączenie zewnętrzne danych po unpivot, z liczbą zgodnych i niezgodnych. |
| Join | Pełny | Złączenie wewnętrzne, Złączenie wielu tabel, Złączenie anty lub Złączenie krzyżowe | Buduje złączenie każdego typu — inner, left, right, full, semi, anti, cross i natural — na dowolnym warunku złączenia, stosuje klauzulę where i zapisuje listę select. |
| Repartition | Pełny | Krok niepotrzebny | Pominięty: PlaidCloud zarządza partycjonowaniem, więc następny krok odczytuje tabelę nadrzędną bezpośrednio. |
| Row Distributor | Pełny | Jeden filtr Table Extract na wyjście | Konwertuje na jeden filtr na wyjście; wiersze mogą trafić do wielu wyjść. |
Analiza składniowa
Dział zatytułowany „Analiza składniowa”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Column Parser | Pełny | Parsowanie JSON / Analiza XML | Konwertuje na analizę JSON lub XML nazwanej kolumny; konwersja ostrzega, że przyjęto układ gemu. |
Niestandardowe
Dział zatytułowany „Niestandardowe”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Custom Gem (Gem Builder) | Pełny | Krok User Defined Transform uruchamiający wygenerowany kod gemu | Wygenerowany kod PySpark gemu z eksportu potoku działa w kroku Python, z ostrzeżeniem o konieczności przeglądu. |
| CustomReformatBitbucket | Pełny | Krok Table Extract | Konwertuje się jako Reformat, którego wyrażenia niesie gem, z ostrzeżeniem o konieczności przeglądu. |
| Data Quality Check | Pełny | Tabela: suma wszystkich po jednym wierszu wyniku na sprawdzenie; Zgłoś błąd przepływu pracy, aby zatrzymać przy niepowodzeniach | Ocenia każde sprawdzenie na danych wejściowych i zapisuje jeden wiersz wyniku na sprawdzenie wraz ze statusem i komunikatem. Dane przechodzą dalej, a uruchomienie zatrzymuje się po osiągnięciu progu niepowodzeń gemu. |
| Deequ | Pełny | Sprawdzenia w kroku Table Extract | Przekazuje dane dalej i buduje tabelę wyników ograniczeń dla reguł isComplete, isUnique, isNonNegative i isContainedIn. |
| Delta Table Operations | Pełny | Kroki Table In-Place Delete, Table Update, Table Drop, Table Restore to Timestamp | Usuwanie, aktualizacja, porzucenie i przywrócenie do znacznika czasu mapują się na kroki tabel; optimize, vacuum i restore według wersji przekazują dane dalej z ostrzeżeniem. |
| Directory | Pełny | Lista katalogu | Wyświetla pliki powiązanego folderu dokumentów w kolumnach gemu; przy opcji nazwy arkusza każdy skoroszyt daje jeden wiersz na arkusz. Brakujący folder daje zero wierszy. |
| Pełny | Krok Notify Via Email | Wysyła wiadomość e-mail, z opcjonalnym załącznikiem z danymi, przez powiązane połączenie e-mail. | |
| Email Data | Pełny | Krok Notify Via Email | Wysyła wiersze wejściowe e-mailem jako tabelę i przekazuje dane wejściowe bez zmian. |
| File Operation | Pełny | Krok Copy Document File lub Copy Document Directory | Kopiuje, przenosi lub synchronizuje pliki z powiązanego folderu dokumentów do folderu dokumentów skonwertowanego przepływu pracy; przeniesienie usuwa pliki źródłowe. |
| Log | Pełny | Krok Table Extract | Zapisuje wiersz zdarzenia gemu (czas, nazwa gemu, typ zdarzenia i tekst) w jego tabeli wyjściowej. |
| REST API Enrich | Pełny | Żądanie REST | Wywołuje API raz na wiersz i dodaje kolumny odpowiedzi. |
| Script | Pełny | Krok Python z przepisaniem dostępu do ramki | Osadza treść skryptu w kroku python, z przepisanym dostępem do ramki danych; treści w Scala są przenoszone z adnotacją. |
| Soda Data Quality Check | Pełny | Sprawdzenia w kroku Table Extract | Buduje tabelę wyników sprawdzeń na podstawie sprawdzeń Soda. |
| SQL Statement | Pełny | Krok SQL na każdą kartę wyjściową, tekst przetłumaczony na dialekt tenanta | Osadza każdą kartę jako krok SQL z wejściami powiązanymi jako tabele tymczasowe; przetłumaczone na dialekt tenanta. |
| Todo | Pełny | Zgłoś błąd przepływu pracy lub krok Notify via Log | Oznacza logikę, która ma jeszcze zostać napisana: komunikat dziennika, gdy nic go nie odczytuje, albo krok zatrzymujący uruchomienie z komunikatem gemu, gdy zależy od niego późniejszy krok. |
| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Tableau | Pełny | Krok Publish to Tableau | Zapisuje wyodrębnienie Hyper i publikuje je w powiązanym połączeniu Tableau. |
| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Bedrock | Pełny | Krok Text NLP AI | Osadza kolumnę tekstową przez połączenie AI obszaru roboczego. |
| OpenAI | Pełny | Krok Text NLP AI | Odpowiada na pytania lub osadza tekst przez połączenie AI obszaru roboczego. |
| Pinecone Lookup | Pełny | Żądanie REST | Odpytuje indeks Pinecone dla każdego wiersza i dodaje kolumny pinecone_matches i pinecone_error. |
| SageMaker Endpoint | Pełny | Krok Text NLP AI | Odpowiada na pytania przez połączenie AI obszaru roboczego. |
| Text Processing | Pełny | Krok Table Extract do dzielenia na fragmenty; Żądanie REST do pobierania ze stron internetowych | Dzielenie na fragmenty staje się wyrażeniem fragmentów znakowych; pobieranie ze stron internetowych pobiera adres URL każdego wiersza i dołącza zawartość strony z powrotem do wiersza. |
Podgraf/sterowanie
Dział zatytułowany „Podgraf/sterowanie”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Control Flow Input | Pełny | Pominięty (tylko znacznik granicy) | Pominięty; oznacza jedynie granicę wejścia podprzepływu pracy iteratora. |
| Control Flow Output | Pełny | Pominięty (tylko znacznik granicy) | Pominięty; oznacza jedynie granicę wyjścia podprzepływu pracy iteratora. |
| Subgraph (Basic) | Pełny | Kontener kanwy / zagnieżdżony przepływ pracy z procesów wbudowanych | Konwertuje wbudowany graf wewnętrzny na zagnieżdżony przepływ pracy (lub wbudowane kroki) z parametrami tabel wejściowych/wyjściowych. |
| Table Iterator | Pełny | Krok Workflow Loop | Uruchamia treść pętli raz na wiersz wejściowy, ustawiając każdą wartość konfiguracji z jego kolumny, do maxIteration. |
| While Iterator | Pełny | Krok Workflow Loop | Uruchamia treść pętli raz na przebieg, przekazując numer iteracji, aż treść zwróci zero wierszy lub zostanie osiągnięte maksimum gemu. |
Gemy SQL / Analyst
Dział zatytułowany „Gemy SQL / Analyst”Źródło/cel
Dział zatytułowany „Źródło/cel”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| External table Source/Target (BigQuery, Databricks, SAP HANA, MongoDB, MSSQL, Oracle, Postgres, Redshift, Salesforce, Snowflake, Synapse) | Pełny | Krok importu/eksportu danych zewnętrznych z odpowiednim połączeniem z bazą danych | Odczytuje lub zapisuje tabelę w zewnętrznej bazie danych przez połączenie PlaidCloud. |
| File storage Source/Target (ADLS, Databricks Volumes, GCS, OneDrive, S3, SFTP, SharePoint, Smartsheet) | Pełny | Kroki importu/eksportu plików względem konta dokumentów (ADLS/GCS/S3/SFTP/SharePoint/OneDrive) | Odczytuje lub zapisuje pliki w magazynie chmurowym/SFTP z opcjami sumy zbiorów z symbolami wieloznacznymi, wyzwalacza, usuwania/przenoszenia i szyfrowania. |
| Model | Pełny | Tabela wyjściowa kroku nadrzędnego | Odczytuje inny model jako tabelę wytworzoną przez wskazany krok nadrzędny. |
| Seed | Pełny | Import: CSV | Plik Seed CSV jest importowany do tabeli PlaidCloud. |
| Source | Pełny | Krok importu wybrany według formatu zbioru danych (zobacz Konektory) | Każdy Source staje się krokiem importu do tabeli nazwanej od zbioru danych; format nierozpoznany przez konwerter jest odczytywany jako plik CSV przesłany do folderu dokumentów przepływu pracy, z ostrzeżeniem. |
| Target Model / Table (Target) | Pełny | Kroki Table Extract, Upsert, Kopiuj tabelę i Tabela: suma wszystkich | Zapisuje końcowy select modelu do tabeli PlaidCloud jako replace, append, upsert, delete-and-insert, SCD2 lub replace by predicate. |
| Upload Files | Pełny | Import: CSV | Przesłane pliki lokalne stają się tabelą przez krok importu. |
Przygotowanie
Dział zatytułowany „Przygotowanie”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Data Cleansing | Pełny | Wyrażenia kolumn w kroku Table Extract | Konwertuje opcje wypełniania wartości null, przycinania i wielkości liter na wyrażenia kolumn; oczyszczone kolumny przechodzą na koniec. |
| Data Masking | Pełny | Wyrażenia kolumn do maskowania znaków lub haszowania | Maskuje lub haszuje wybrane kolumny tekstowe w miejscu albo jako nowe kolumny. |
| Find Duplicates | Pełny | Wyrażenie okna z numerem wiersza plus filtr | Zwraca wiersze unikatowe, zduplikowane lub wybrane według liczby/pozycji dla każdego klucza. |
| Generate Rows | Pełny | Tabela sekwencji złączona i filtrowana dla każdego wiersza wejściowego | Generuje wiersze dla każdego wiersza wejściowego na podstawie wyrażeń init, condition i loop. |
| Imputation | Pełny | Agregacja plus złączenie zwrotne i wyrażenie kolumny | Zastępuje wartości null lub wartości wskaźnikowe średnią, medianą, dominantą lub stałą wartością. |
| Multi-Column Edit | Pełny | Wyrażenia dla każdej kolumny rozwinięte z szablonu | Stosuje jeden szablon wyrażenia do każdej wybranej kolumny. |
| Multi-Column Rename | Pełny | Mapowanie zmiany nazw kolumn w kroku select | Zmienia nazwy wybranych kolumn według prefiksu, sufiksu lub wyrażenia nazwy. |
| Record ID | Pełny | Wyrażenie kolumny z numerem wiersza lub uuid | Dodaje kolumnę identyfikatora rekordu typu UUID lub sekwencyjną. |
| Sample | Pełny | Limit wierszy lub opcja próbki w kroku extract | Pobiera pierwsze/ostatnie/losowe/co N-te/procentowe wiersze ogółem lub dla każdej grupy. |
| Tile | Pełny | Wyrażenia okna dla numeru kafla i sekwencji | Przypisuje numery kafli według równej sumy, liczby, pasm odchylenia standardowego, wartości różnych lub ręcznych odcięć. |
Transformacja
Dział zatytułowany „Transformacja”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Aggregate | Pełny | Krok Table Extract z agregacją; krok Pivot, gdy gem wykonuje pivot | Grupuje i agreguje, stosuje warunek HAVING oraz obraca do jednej kolumny na wartość pivot; propagate-all przenosi wszystkie pozostałe kolumny wejściowe. |
| Count Records | Pełny | Krok agregacji z funkcjami zliczania | Zwraca łączną liczbę, liczbę niepustych lub różnych jako jeden wiersz. |
| Data Encoder/Decoder | Pełny | Wyrażenia kolumn do kodowania i dekodowania base64/hex | Koduje lub dekoduje wybrane kolumny; AES tylko w Databricks. |
| Deduplicate | Pełny | Krok Table Extract z distinct lub filtrem numeru wiersza | Zachowuje jeden wiersz na klucz: distinct, pierwszy lub ostatni według kolejności sortowania, dowolny albo tylko klucze występujące raz. |
| Dynamic Select | Pełny | Wybór kolumn w kroku Table Extract rozstrzygany według typu | Rozstrzyga kolumny według typu w czasie konwersji do jawnego wyboru. |
| Filter | Pełny | Krok Table Extract z wyrażeniem filtru | Konwertuje na krok Table Extract z wyrażeniem filtru; warunki NULL odrzucają wiersz. |
| Finance | Pełny | Wyrażenie kolumny implementujące funkcję finansową | Dołącza wynik funkcji finansowej (FV, PV, NPV, IRR, …) jako nową kolumnę. |
| Flatten Schema | Pełny | Kroki Parsowanie JSON i Table Extract | Spłaszcza zagnieżdżone pola do kolumn nazwanych z użyciem separatora gemu i rozwija tablice do jednego wiersza na element. |
| Fuzzy Match | Pełny | Kroki Table Extract i User Defined Transform | Łączy rekordy w pary, ocenia każde pole dopasowania metodą gemu, uśrednia oceny i zachowuje pary na poziomie progu lub powyżej niego. |
| Limit | Pełny | Krok Table Extract z limitem wierszy | Konwertuje na limit wierszy; odwołania do konfiguracji stają się zmiennymi projektu. |
| Order By | Pełny | Sortowanie w kroku Table Extract | Konwertuje na sortowanie z tymi samymi kluczami, kierunkiem i położeniem wartości null. |
| Pivot | Pełny | Krok Pivot | Zamienia wybrane wartości pivot na kolumny agregatów; lista wartości trybu Simple pobrana podczas projektowania jest konwertowana jako wymienione wartości. |
| Reformat | Pełny | Krok Table Extract z wyrażeniami kolumn | Konwertuje na krok Table Extract z jednym wyrażeniem na kolumnę wyjściową; kolumny niewymienione są odrzucane. |
| Running Total | Pełny | Kolumna z wyrażeniem okna sumy skumulowanej | Dołącza sumy skumulowane dla każdej wybranej kolumny. |
| Snowflake Unpivot (third-party) | Pełny | Krok Melt | Wykonuje unpivot kolumn przez Snowflake UNPIVOT. |
| Transpose | Pełny | Krok Melt | Układa kolumny danych w kolumny nazwy i wartości tekstowej. |
| TransposeAgg | Pełny | Krok Table Extract z agregacją | Konwertuje grupowanie, agregacje i pivot gemu jako Aggregate, z ostrzeżeniem o konieczności przeglądu. |
| Unpivot | Pełny | Krok Melt | Układa kolumny danych w kolumny nazwy i wartości. |
| Weighted Average | Pełny | Krok agregacji z wyrażeniem średniej ważonej | Oblicza średnią ważoną ogółem lub dla każdej grupy. |
| Window Function | Pełny | Wyrażenia okna w kroku Table Extract | Dodaje kolumny okna z partycją, kolejnością i ramką gemu, wierszami lub zakresem, z granicami nieograniczonymi, bieżącego wiersza lub z przesunięciem. |
Złączenie/podział
Dział zatytułowany „Złączenie/podział”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Except | Pełny | Złączenie anty po wszystkich kolumnach plus krok Table Extract z distinct | Zachowuje wiersze pierwszego wejścia, które nie występują w żadnym z pozostałych wejść. |
| Intersect | Pełny | Złączenie wewnętrzne po wszystkich kolumnach plus Distinct | Zachowuje wiersze obecne w każdym wejściu. |
| Join | Pełny | Złączenie wewnętrzne, Złączenie wielu tabel, Złączenie anty lub Złączenie krzyżowe | Buduje złączenie każdego typu — inner, left, right, full, semi, anti, cross i natural — na dowolnym warunku złączenia, stosuje klauzulę where i zapisuje listę select. |
| Union | Pełny | Tabela: suma wszystkich | Układa wejścia według pozycji, usuwając duplikaty, gdy gem ich nie zachowuje. |
| Union By Name | Pełny | Tabela: suma wszystkich | Staje się krokiem Union All, który wyrównuje kolumny według nazwy i uzupełnia brakujące wartościami null. |
Analiza składniowa
Dział zatytułowany „Analiza składniowa”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| JSON Parse | Pełny | Parsowanie JSON | Przetwarza kolumnę tekstową JSON na pola ustrukturyzowane. |
| Regex | Pełny | Wyrażenia regex w kroku Table Extract / Transform | Zastępuje, analizuje, dopasowuje lub dzieli na tokeny kolumnę tekstową za pomocą wyrażenia regularnego. |
| Text To Columns | Pełny | Kroki podziału kolumny / rozwinięcia z separatorem w postaci wyrażenia regularnego | Dzieli kolumnę rozdzielaną na kolumny lub wiersze przy użyciu separatora w postaci wyrażenia regularnego. |
| XML Parse | Pełny | Analiza XML | Przetwarza kolumnę tekstową XML na pola ustrukturyzowane. |
Niestandardowe
Dział zatytułowany „Niestandardowe”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Directory | Pełny | Lista katalogu | Wyświetla pliki powiązanego folderu dokumentów w kolumnach gemu; przy opcji nazwy arkusza każdy skoroszyt daje jeden wiersz na arkusz. Brakujący folder daje zero wierszy. |
| DynamicInput | Pełny | Krok SQL dla szablonów zapytań; pętla przepływu pracy dla trybu wielu plików | Tryb szablonu zapytania osadza szablon jako krok SQL; tryb wielu plików mapuje się z założeniami. |
| Pełny | Krok Notify Via Email | Wysyła wiadomość e-mail, z opcjonalnym załącznikiem z danymi, przez powiązane połączenie e-mail. | |
| RestAPI | Pełny | Żądanie REST | Wysyła jedno żądanie na wiersz wejściowy z Twoim adresem URL, nagłówkami, zapytaniem, treścią i ponowieniami, zachowuje odpowiedź i odpytuje żądanie asynchroniczne do jego zakończenia. Poświadczenia pochodzą z powiązanego połączenia. |
| Script | Pełny | Krok Python z przepisaniem dostępu do ramki | Osadza treść skryptu w kroku python, z przepisanym dostępem do ramki danych; treści w Scala są przenoszone z adnotacją. |
| SQL Statement | Pełny | Krok SQL na każdą kartę wyjściową, tekst przetłumaczony na dialekt tenanta | Osadza każdą kartę jako krok SQL z wejściami powiązanymi jako tabele tymczasowe; przetłumaczone na dialekt tenanta. |
| StoredProcedure | Pełny | Krok Agent Remote Execution of SQL | Wywołuje procedurę w jej magazynie przez wybrane połączenie: raz na wiersz wejściowy z każdym argumentem powiązanym z jego kolumny albo raz, gdy nie przyjmuje argumentów. Kolumny wejściowe przechodzą dalej. |
| Table Operations | Pełny | Kroki Table In-Place Delete, Table Update, Table Drop | Aktualizacja, usuwanie i porzucenie mapują się na kroki tabel; vacuum i optimize stają się optymalizacją tabeli lub brakiem operacji z ostrzeżeniem. |
| ToDo | Pełny | Zgłoś błąd przepływu pracy lub krok Notify via Log | Oznacza logikę, która ma jeszcze zostać napisana: komunikat dziennika, gdy nic go nie odczytuje, albo krok zatrzymujący uruchomienie z komunikatem gemu, gdy zależy od niego późniejszy krok. |
Przestrzenne
Dział zatytułowany „Przestrzenne”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Buffer | Pełny | Krok Spatial Buffer | Powiększa każdą geometrię o skonfigurowaną odległość w milach lub kilometrach. |
| CreatePoint | Pełny | Krok Table Extract z geom_point |
Buduje geometrię punktu z kolumn długości i szerokości geograficznej. |
| Distance | Pełny | Krok Table Extract | Oblicza odległość, kierunek świata i azymut między dwoma punktami WKT. |
| FindNearest | Pełny | Krok Table Extract ze złączeniem krzyżowym | Znajduje N najbliższych punktów docelowych dla każdego punktu źródłowego w maksymalnej odległości. |
| HeatMap | Pełny | Heat Map (macro) | Grupuje punkty w sześciokąty H3 w rozdzielczości gemu, rozprowadza ciepło na odległość siatki z jego zanikiem i podaje gęstość oraz obrys każdego sześciokąta. |
| PolyBuild | Pełny | Krok Table Extract i krok Python | Buduje WKT wielokąta lub linii łamanej z uporządkowanych punktów dla każdej grupy. |
| Simplify | Pełny | Krok Spatial Generalize | Upraszcza geometrie WKT z tolerancją w milach/km. |
| SpatialMatch | Pełny | Dopasowanie przestrzenne | Dopasowuje geometrie źródłowe i docelowe według intersects/contains/within/touches/envelope. |
| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| PowerBIWrite | Pełny | Żądanie REST | Tworzy zbiór danych Power BI i przesyła wiersze przez interfejs REST API Power BI. |
| TableauWrite | Pełny | Krok Publish to Tableau | Zapisuje wyodrębnienie Hyper i publikuje je w powiązanym połączeniu Tableau. |
| Visualize | Pełny | Kopiuj tabelę | Przekazuje wiersze dalej bez zmian; wykres zbuduj jako pulpit PlaidCloud na tej samej tabeli. |
Podgraf/sterowanie
Dział zatytułowany „Podgraf/sterowanie”| Gem | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Condition | Pełny | Złączenie krzyżowe i krok Table Extract | Ocenia warunki na całym wejściu i kieruje każdy wiersz do pierwszego wyjścia, którego warunek jest spełniony, a w przeciwnym razie do ostatniego wyjścia. |
| Macro | Pełny | Krok SQL z rozwiniętą treścią makra | Osadza treść makra jako krok SQL przetłumaczony na dialekt tenanta, z wejściami powiązanymi jako tabele tymczasowe. |
| Pipeline (trigger) | Pełny | Krok Workflow Loop | Uruchamia nazwany potok raz na wiersz wejściowy z Twoimi parametrami i warunkiem wyzwalacza, kontynuuje po nieudanym uruchomieniu i zwraca jeden wiersz na uruchomienie. |
| Subgraph (Basic) | Pełny | Kontener kanwy / zagnieżdżony przepływ pracy z procesów wbudowanych | Konwertuje wbudowany graf wewnętrzny na zagnieżdżony przepływ pracy (lub wbudowane kroki) z parametrami tabel wejściowych/wyjściowych. |
Konektory
Dział zatytułowany „Konektory”Formaty zbiorów danych i konektory są ustawieniami źródła i celu gemu, a nie gemami. Każdy format konwertuje się na pokazany krok importu lub eksportu, a konwersja nigdy nie łączy się z systemem źródłowym ani docelowym.
| Format | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Avro | Pełny | Import: Avro; Eksport: Avro | Odczytuje i zapisuje pliki Avro. |
| BigQuery | Pełny | Zewnętrzne połączenie z bazą danych z importem tabeli | Odczytuje i zapisuje przez połączenie. |
| Binary files | Pełny | Lista katalogu z zawartością plików; Wykonawca Alteryx do zapisu | Odczytuje każdy plik folderu wraz ze ścieżką, czasem modyfikacji, długością i zawartością; zapisuje zawartość każdego wiersza do pliku wskazanego przez jego ścieżkę. |
| Catalog table | Pełny | Powiązanie z istniejącą tabelą PlaidCloud | Wiąże się z tabelą według nazwy; odczyty i każdy tryb zapisu podlegają konwersji. |
| Cosmos DB | Pełny | Import i eksport: Żądanie REST | Odczytuje i zapisuje dokumenty kontenera przez połączenie Cosmos DB. |
| CSV | Pełny | Import: CSV; Eksport: CSV | Odczytuje i zapisuje pliki rozdzielane z opcjami nagłówka, separatora, cudzysłowu, znaku ucieczki i kodowania. |
| Data Generator | Pełny | Krok Table Faker | Generuje kolumny zbioru danych z tymi samymi rodzajami danych fikcyjnych. |
| DataHub table | Pełny | Importuj SQL | Odczytuje tabelę wskazaną przez zbiór danych przez Twoje połączenie; zapis trafia do tabeli PlaidCloud. |
| Delta | Pełny | Powiązanie z istniejącą tabelą PlaidCloud | Odczytuje i zapisuje tabelę w każdym trybie zapisu; odczyt wcześniejszej wersji odbywa się przez powiązane połączenie Databricks. |
| Excel (XLSX) | Pełny | Import: Excel; Eksport: Excel | Odczytuje i zapisuje arkusze i zakresy skoroszytów. |
| Fixed format | Pełny | Import: stała szerokość; Eksport: CSV | Odczytuje pliki o stałej szerokości ułożone według szerokości kolumn zbioru danych; zapisuje plik rozdzielany. |
| Hive | Pełny | Import: Importuj SQL; Eksport: tabele zewnętrzne | Odczytuje i zapisuje tabelę przez Twoje połączenie Hive. |
| Iceberg | Pełny | Powiązanie z istniejącą tabelą PlaidCloud | Odczytuje i zapisuje tabelę. |
| JDBC | Pełny | Zewnętrzne połączenie z bazą danych z importem tabeli | Odczytuje tabelę lub zapytanie i zapisuje w trybie replace lub append przez Twoje połączenie; instrukcja po zapisie jest uruchamiana po zapisie. |
| JSON | Pełny | Parsowanie JSON | Ładuje rekordy i spłaszcza zagnieżdżone pola. |
| Kafka | Pełny | Import: Importuj Kafka; Eksport: Eksportuj Kafka | Odczytuje temat jako jedną partię komunikatów i zapisuje wiersze jako komunikaty. |
| MongoDB | Pełny | Import: MongoDB; Eksport: MongoDB | Odczytuje i zapisuje kolekcję przez Twoje połączenie MongoDB. |
| ORC | Pełny | Import: ORC; Eksport: ORC | Odczytuje i zapisuje pliki ORC. |
| Parquet | Pełny | Import: Parquet; Eksport: Parquet | Odczytuje i zapisuje pliki Parquet. |
| Pinecone | Pełny | Import i eksport: Żądanie REST | Odczytuje rekordy indeksu i wykonuje upsert wierszy jako wektorów przez interfejs REST API Pinecone. |
| Redshift | Pełny | Zewnętrzne połączenie z bazą danych z importem tabeli | Odczytuje i zapisuje przez połączenie. |
| Salesforce | Pełny | Import: Query Salesforce Object; Eksport: Żądanie REST | Odczytuje obiekt lub zapytanie SOQL i zapisuje rekordy przez Twoje połączenie Salesforce. |
| Seed (inline) | Pełny | Import: CSV | Ładuje wiersze wbudowane jako tabelę. |
| Slack | Pełny | Import: Singer; Eksport: Żądanie REST | Odczytuje komunikaty kanału i publikuje każdy wiersz jako komunikat przez Twoje połączenie Slack. |
| Smartsheet | Pełny | Import i eksport: Żądanie REST | Odczytuje i zapisuje wiersze arkusza przez Twoje połączenie Smartsheet. |
| Snowflake | Pełny | Zewnętrzne połączenie z bazą danych z importem tabeli | Odczytuje i zapisuje przez połączenie. |
| SQL file types (CSV, Excel, JSON, Parquet, Text, XML, fixed-width) | Pełny | Kroki importu i eksportu plików względem konta dokumentów | Odczytuje i zapisuje typ pliku; opcje bez odpowiednika w PlaidCloud są oznaczane. |
| Text | Pełny | Import: CSV jako pojedyncza kolumna | Odczytuje każdy wiersz jako jedną kolumnę. |
| Web page | Pełny | Żądanie REST | Odczytuje stronę pod adresem URL zbioru danych do tabeli. |
| XML | Pełny | Analiza XML | Ładuje rekordy według znacznika wiersza. |
Wyrażenia i struktura projektu
Dział zatytułowany „Wyrażenia i struktura projektu”| Obszar | Status | Odpowiednik w PlaidCloud | Konwertuje |
|---|---|---|---|
| Expressions | Pełny | Wyrażenia SQL Spark i magazynu danych tłumaczone funkcja po funkcji | Funkcje i operatory konwertują się na wyrażenia PlaidCloud; funkcja bez odpowiednika jest oznaczana nazwą. |
| Project and graph structure | Pełny | Program ładujący projekt | Każdy kształt eksportu Prophecy jest ładowany i normalizowany do jednego modelu. |
Znane przypadki brzegowe
Dział zatytułowany „Znane przypadki brzegowe”| Przypadek | Co się dzieje |
|---|---|
| Kod lub dane, których eksport nie zawiera | Gem Builder lub inny gem niestandardowy, którego kodu nie ma w eksporcie, oraz wywołanie makra pakietu dbt pominiętego w eksporcie stają się krokiem wskazującym, czego brakuje; wyeksportuj projekt wraz z kodem potoku i pakietami dbt albo odbuduj logikę w kroku Python lub SQL. Gemy Ab Initio Error Detection i MTime przekazują dane wejściowe dalej, ponieważ stosowanej przez nie reguły nie ma w eksporcie. Sprawdzenia Soda odczytywane z pliku spoza projektu oraz sprawdzenia Soda porównujące z wcześniejszymi skanami lub z innym zbiorem danych albo testujące format wskazany przez Soda nie mają wiersza w tabeli wyników; oblicz je w późniejszym kroku. |
| Wyniki znane dopiero po uruchomieniu potoku | Gem REST API, który spłaszcza swoją odpowiedź, umieszcza całą odpowiedź w jednej kolumnie, gdy nic nie deklaruje nazw pól, co ujawnia dopiero uruchomienie; wyodrębnij potrzebne pola w późniejszym kroku. Makro dbt, które odpytuje magazyn danych podczas kompilacji dbt, staje się krokiem wskazującym je; zastąp zapytanie zwracanymi przez nie wartościami. Gem Spark StoredProcedure działa, ale jego wartości OUT nie są zwracane; wyjściem są kolumny przekazywane dalej. input_file_name() zwraca pusty ciąg dla źródła tabeli lub Delta, które nie ma pliku do nazwania, a hash() / xxhash64() wewnątrz agregacji, okna lub gemu z wieloma wejściami są obliczane przez magazyn danych, więc mogą się różnić od Spark. |
| Wartości zapisywane w kroku podczas konwersji projektu | Wartość parametru zawierająca cudzysłów, ukośnik odwrotny lub nawias klamrowy, wartość potoku odczytywana przez krok SQL oraz baza danych wskazana przez operację tabeli Delta w konfiguracji są zapisywane w kroku jako wartości stałe, więc zmiana zmiennej przepływu pracy ich nie zmienia; edytuj krok, gdy zmienia się konfiguracja. |
| Kod Scala | Skrypt Scala, wyrażenie Scala albo funkcja zdefiniowana przez użytkownika lub funkcja agregująca w Scala staje się krokiem, który je wskazuje; przepisz go w SQL lub Python. |
| Logowanie Kerberos w Kafka | Źródło lub cel Kafka logujący się przez Kerberos (GSSAPI) konwertuje się bez nazwy usługi Kerberos i mechanizmu logowania; ustaw je w połączeniu PlaidCloud. |
| Strumieniowanie | Źródła, cele i potoki strumieniowe działają jako wsadowe przepływy pracy na danych obecnych w chwili uruchomienia; ustaw harmonogram przepływu pracy tak często, jak potrzebujesz. |
| Komponenty zadania | Zadanie Spark konwertuje się wraz ze swoim jednym potokiem i harmonogramem; jego pozostałe komponenty, warunki uruchomienia i nadpisania konfiguracji nie są konwertowane. |
| Rzadkie wywołania | Funkcja agregująca zdefiniowana przez użytkownika wywoływana z rollup lub okna oraz makro dbt używające Jinja poza if, for, set i typowymi filtrami stają się krokiem wskazującym gem; wywołaj funkcję z gemu Aggregate albo wbuduj makro. |
Weryfikacja skonwertowanego przepływu pracy
Dział zatytułowany „Weryfikacja skonwertowanego przepływu pracy”Porównaj wynik skonwertowanego przepływu pracy z wynikiem własnego potoku Prophecy: schemat, liczbę wierszy i wartości wierszy. Pomiń kolejność wierszy, chyba że przepływ pracy od niej zależy.