Importuj Alteryx YXDB

Opis

Importuje pliki Alteryx YXDB z PlaidCloud Document. YXDB to natywny format pliku binarnego używany przez Alteryx Designer do przechowywania zestawów danych wraz z metadanymi pól.

Import YXDB odbywa się strumieniowo przez pamięć tymczasową, bez wczytywania całego pliku do pamięci, dlatego bardzo duże pliki importują się bez wyczerpania pamięci. Typy danych pliku — liczby dziesiętne, daty i znaczniki czasu — są zachowywane w tabeli docelowej.

Jeśli skonfigurowany plik .yxdb nie istnieje, ale w tym samym folderze znajduje się plik .parquet o tej samej nazwie, krok odczytuje plik .parquet i wyświetla o tym ostrzeżenie. Skonwertowane przepływy pracy Alteryx zapisują swoje wyniki .yxdb jako pliki .parquet o tej samej nazwie, więc krok odczytujący jeden z takich plików .yxdb automatycznie pobiera dane. Importy, które wyszukują pliki, nie korzystają z tego zastępowania.

Przykłady

Brak przykładów…

Unikatowe elementy konfiguracji

Brak

Wspólne elementy konfiguracji

Opcja Usuń znaki spoza ASCII

Po wybraniu tej opcji import usunie całą zawartość, która nie jest ASCII. Chociaż PlaidCloud w pełni obsługuje Unicode (UTF-8), pliki z rzeczywistych źródeł mogą zawierać różnorodne kodowania i przypadkowe znaki, które utrudniają ich przetwarzanie.

Jeśli zawartość pliku ma być wyłącznie w ASCII, zaznaczenie tego pola pomoże zapewnić bezproblemowe działanie procesu importu.

Opcja usuwania plików po imporcie

Ta opcja pozwala procesowi importu usunąć plik z konta dokumentów PlaidCloud po pomyślnym zakończeniu importu.

Może to być przydatne, gdy pliki importu są generowane i można je odtworzyć z systemu źródłowego albo nie ma powodu, aby zachowywać surowe pliki wejściowe po ich przetworzeniu.

Usuwane są tylko pliki, które zostały zaimportowane. Plik pominięty lub taki, który wygenerował ostrzeżenie podczas importu, pozostaje w folderze.

Opcja pomijania ponownego importu, jeśli pliki źródłowe nie uległy zmianie

Gdy ta opcja jest włączona, uruchomienie tego kroku w przepływie pracy pomija cały import — pobieranie, konwersję i przebudowę tabeli — jeśli pliki źródłowe i ustawienia kroku nie zmieniły się od ostatniego udanego uruchomienia. Pozwala to uniknąć powtarzania pracy, gdy zaplanowany przepływ pracy uruchamia się ponownie na niezmienionych plikach źródłowych.

Krok porównuje każdy plik źródłowy na podstawie jego ścieżki, rozmiaru i czasu ostatniej modyfikacji (oraz skrótu zawartości, jeśli źródło go udostępnia). Jeśli jakikolwiek plik zostanie dodany, usunięty lub zmieniony albo zmieni się konfiguracja kroku, import uruchamia się normalnie. Opcja jest domyślnie włączona — odznacz ją, aby zawsze importować ponownie — a ręczne, jednorazowe importy zawsze się uruchamiają.

Pominięcie wymaga również, aby tabela docelowa nadal zawierała wiersze załadowane podczas ostatniego importu. Jeśli tabela została w międzyczasie opróżniona lub nie można odczytać liczby jej wierszy, import uruchamia się ponownie, zamiast pominąć go i pozostawić kolejne kroki bez danych.

Niektóre źródła (na przykład SFTP) nie udostępniają skrótu zawartości, więc w ich przypadku sygnałem zmiany są wyłącznie rozmiar pliku i czas ostatniej modyfikacji. Plik zastąpiony w miejscu innym o tym samym rozmiarze i czasie modyfikacji zostałby wtedy uznany za niezmieniony i pominięty — odznacz tę opcję w kroku, którego źródło może być aktualizowane w ten sposób.

Selektor pliku importu

Selektor pliku w tej transformacji umożliwia wybranie pliku przechowywanego w lokalizacji dokumentów PlaidCloud do zaimportowania.

Możesz też wybrać katalog do zaimportowania, a wszystkie pliki w tym katalogu zostaną zaimportowane podczas uruchomienia transformacji.

Wybór konta dokumentów

Wybierz konto dokumentów PlaidCloud, do którego masz dostęp. Umożliwi to wybranie katalogu lub pliku w następnym kroku.

W projekcie lista zawiera też na górze pozycję Domyślne projektu — zastępuje ona konto, które jest aktualnie ustawione w projekcie jako domyślne. Nowy krok wstępnie wybiera Domyślne projektu, gdy projekt je ma; istniejący krok zachowuje konto, z którym został zapisany, dopóki go nie zmienisz. Krok pozostawiony na Domyślne projektu działa na koncie, które w danym momencie jest domyślne dla projektu — jeśli żadne nie jest ustawione, uruchomienie kończy się niepowodzeniem i wskazuje projekt, zamiast wybrać inne konto.

Opcja wyszukiwania

Opcja Szukaj umożliwia znalezienie wszystkich pasujących plików poniżej wskazanej ścieżki katalogu w celu zaimportowania. Może to być szczególnie przydatne, gdy trzeba uwzględnić wiele plików, ale są one przechowywane w zagnieżdżonych katalogach lub są wymieszane z innymi plikami w tym samym katalogu, których nie chcesz importować.

Wybrana ścieżka wyszukiwania jest katalogiem początkowym. Proces wyszukiwania sprawdza wszystkie pliki w tym katalogu oraz w podkatalogach, które spełniają określone warunki wyszukiwania. Upewnij się, że kryteria wyszukiwania można zastosować również do plików w podkatalogach.

Wyszukiwanie można zastosować przy użyciu następujących warunków:

Dokładnie: dopasowuje dokładnie szukany tekst
Zaczyna się od: dopasowuje każdy plik, którego nazwa zaczyna się od szukanego tekstu
Zawiera: dopasowuje każdy plik, którego nazwa zawiera szukany tekst
Kończy się na: dopasowuje każdy plik, którego nazwa kończy się szukanym tekstem

Asystent AI lub interfejs REST API może też ustawić wyszukiwanie na glob, czyli wzorzec z symbolami wieloznacznymi, taki jak CO Store*.yxdb, dopasowywany do całej nazwy pliku bez uwzględniania wielkości liter, lub na regex, czyli wyrażenie regularne, któremu musi odpowiadać cała nazwa pliku. Wyrażenie regularne rozróżnia wielkość liter, chyba że zaczyna się od (?i).

Opcja wyboru pliku lub katalogu

Gdy wymagany jest konkretny plik lub katalog plików do zaimportowania, wskazanie pliku lub katalogu jest lepszą opcją niż wyszukiwanie.

Aby wybrać plik lub katalog, użyj przycisku przeglądania i wskaż ścieżkę na wybranym wyżej koncie dokumentów.

Podstawianie zmiennych

Zarówno w opcji wyszukiwania, jak i w opcji konkretnego pliku lub katalogu można używać zmiennych w ścieżce, szukanym tekście i nazwach plików.

Przykład użycia zmiennej current_month do dynamicznego wskazania właściwego pliku:

legal_entity/inputs/{current_month}/ledger_values.csv

Tabela docelowa

Wybór celu importu jest ograniczony wyłącznie do tabel, ponieważ widoki nie zawierają danych źródłowych.

Opcja dynamiczna

Opcja dynamiczna umożliwia określenie tabeli za pomocą tekstu, w tym zmiennych. Jest to przydatne w przepływach pracy sterowanych zmiennymi, w których odwołania do tabel i widoków zależą od określonych zmiennych.

Przykład użycia zmiennej current_month do dynamicznego wskazania tabeli docelowej:

legal_entity/inputs/{current_month}/ledger_values

Opcja statyczna

Jeśli jako cel importu ma służyć konkretna tabela, pozostaw niezaznaczone pole Dynamiczna i wybierz tabelę docelową.

Jeśli tabela docelowa nie istnieje, wybierz przycisk Utwórz nową tabelę, aby utworzyć tabelę w wybranej lokalizacji.

Funkcja Eksplorator tabel jest zawsze dostępna przy wyborze dowolnej tabeli. Kliknij przycisk Eksplorator tabel po prawej stronie wyboru tabeli, a otworzy się okno Eksploratora tabel.

Konfiguracja Data Mapper

Data Mapper tabeli

Data Mapper służy do mapowania kolumn z danych źródłowych na tabelę danych docelowych.

Sprawdzanie źródła i wypełnianie mappera

Przycisk menu Sprawdź źródło udostępnia dodatkowe sposoby mapowania kolumn ze źródła na cel:

Wypełnij obie tabele mapowania: propaguje wszystkie wartości z tabeli danych źródłowych do tabeli danych docelowych. Jest to ustawienie domyślne.
Wypełnij tylko tabelę mapowania źródła: mapuje wszystkie wartości wyłącznie w tabeli danych źródłowych. Jest to przydatne przy modyfikowaniu istniejącego przepływu pracy, gdy zmieniła się struktura kolumn źródłowych.
Wypełnij tylko tabelę mapowania celu: propaguje wszystkie wartości wyłącznie do tabeli danych docelowych.

Jeśli opcje kolumn źródłowych i docelowych nie wystarczą, kolejne kolumny można dodać do tabeli danych docelowych na kilka sposobów:

Propaguj wszystko wstawia wszystkie kolumny źródłowe do tabeli danych docelowych, niezależnie od tego, czy już w niej istniały.
Propaguj zaznaczone wstawia tylko zaznaczone kolumny źródłowe.
Kliknij prawym przyciskiem myszy po stronie docelowej i wybierz Wstaw wiersz, aby wstawić wiersz bezpośrednio nad aktualnie zaznaczonym wierszem.
Kliknij prawym przyciskiem myszy po stronie docelowej i wybierz Dołącz wiersz, aby wstawić wiersz na dole (z prawej strony) tabeli danych docelowych.

Usuwanie kolumn

Aby usunąć kolumny z tabeli danych docelowych, zaznacz wybrane kolumny, kliknij prawym przyciskiem myszy i wybierz Usuń.

Kolumny źródłowe, których nie ma już na liście

Wiersz docelowy może wskazywać Kolumnę źródłową, której tabela danych źródłowych już nie zawiera, na przykład po ponownym sprawdzeniu źródła. Krok nigdy sam nie usuwa takiego wiersza. Zamiast tego nazwa kolumny jest wyświetlana na czerwono, za znakiem ostrzegawczym ⚠, a po najechaniu na nią kursorem pojawia się informacja, że kolumny nie ma wśród kolumn źródłowych. W kroku z kilkoma tabelami, takim jak unia, każda tabela jest sprawdzana względem własnych kolumn źródłowych.

Wiersz ze Stałą, Wyrażeniem lub podsumowaniem Liczba (z wartościami null) nigdy nie jest oznaczany, ponieważ krok nie odczytuje jego kolumny źródłowej. Nic nie jest oznaczane, dopóki tabela danych źródłowych nie zawiera żadnych kolumn, na przykład przed pierwszym sprawdzeniem źródła.

Podczas zapisywania kroku, który nadal ma oznaczone wiersze, okno Znaleziono nieaktualne kolumny wyświetla je pod kartą lub tabelą, do której należą, i oferuje trzy opcje:

Usuń wszystkie i zapisz — usuń oznaczone wiersze, a następnie zapisz.
Zapisz mimo to — zapisz krok bez zmian.
Anuluj — wróć do kroku bez zapisywania.

Aby zachować wiersz i usunąć jego ostrzeżenie, dodaj kolumnę z powrotem do tabeli danych źródłowych albo wybierz kolumnę, którą ta tabela zawiera.

Typ danych kolumny

Każda kolumna docelowa ma Typ. Kolumna propagowana ze źródła zachowuje typ kolumny źródłowej; dodany ręcznie wiersz ma początkowo typ Tekst, a w polu Typ określasz, czym kolumna ma faktycznie być — kolumna, którą zamierzasz sumować lub sortować, wymaga typu liczbowego albo daty, ponieważ tekst jest sortowany i sumowany jako tekst.

Krok zapisany z kolumną bez żadnego typu nadal się uruchamia. Typ jest ustalany w chwili rozpoczęcia kroku na podstawie kolumny źródłowej, którą ta kolumna odczytuje. Jeśli nie ma z czego go odczytać, traktowany jest jako tekst: kolumny kroku Wyodrębnij SQL pochodzą z napisanego przez Ciebie zapytania, a nie z zmapowanego źródła, a gdy kilka źródeł zawiera kolumnę o tej samej nazwie, lecz o niezgodnych typach, używany jest tekst zamiast zgadywania jednego z nich — błędne odgadnięcie powoduje konwersję, którą magazyn danych może odrzucić, a wszystko można przekonwertować na tekst.

Samodzielne ustawienie pola Typ nadal jest sposobem na określenie, czym kolumna ma być. Pozostawienie go nieustawionego oznacza zgodę na to, czym akurat jest kolumna źródłowa.

Zmiana kolejności kolumn

Aby zmienić kolejność kolumn w tabeli danych docelowych, zaznacz wybrane kolumny. Możesz użyć jednej z poniższych metod:

Strzałki przenoszenia zbiorczego: wybierz odpowiednią opcję przenoszenia za pomocą strzałek w prawym górnym rogu
Menu kontekstowe: kliknij prawym przyciskiem myszy i wybierz Przenieś na początek, Przenieś w górę, Przenieś w dół lub Przenieś na koniec.

Ograniczanie wyniku do unikalnych rekordów

Aby zwrócić tylko unikalne wartości, wybierz opcję menu Unikalne. Spowoduje to wyświetlenie zestawu pól wyboru dla każdej kolumny źródła. Wystarczy zaznaczyć pole obok odpowiedniej kolumny, aby zwrócić tylko unikalne wyniki.

W zależności od sytuacji warto rozważyć zastosowanie podsumowania.

Proces usuwania duplikatów zachowuje pierwszy znaleziony unikalny rekord, a pozostałe odrzuca. Jeśli spójność między uruchomieniami jest ważna, warto zastosować sortowanie danych.

Agregacja i grupowanie

Aby agregować wyniki, wybierz opcję menu Podsumuj. Spowoduje to wyświetlenie zestawu pól wyboru dla każdej kolumny w tabeli danych docelowych. Wybierz odpowiednią metodę podsumowania dla każdej kolumny.

Gdy Sprawdź źródło wypełnia kolumny, kolumna liczbowa zaczyna jako Grupuj według zamiast Suma, jeśli jej nazwa wygląda na identyfikator, na przykład id, customer_id, Order No lub CustomerKey, jeśli jej tabela ustawia ją jako klucz albo jeśli złączenie używa jej jako klucza.

Grupuj według
Suma
Min
Maks
Pierwsza
Ostatnia
Liczba
Liczba (z wartościami null)
Średnia
Odchylenie standardowe
Odchylenie standardowe z próby
Odchylenie standardowe z populacji
Wariancja
Wariancja z próby
Wariancja z populacji
Zaawansowane bez grupowania

Informacje o zaawansowanym użyciu Data Mapper, takim jak wyrażenia, czyszczenie i stałe, znajdziesz w artykule Zaawansowane użycie Data Mapper

Table Data Filters

Aby zapewnić maksymalną elastyczność, filtry danych są dostępne zarówno dla danych źródłowych, jak i docelowych. W przypadku większych zbiorów danych szczególnie korzystne może być odfiltrowanie wierszy już na źródle, aby pozostałe operacje były wykonywane na mniejszym zbiorze danych.

Wybierz podzbiór danych

Ten typ filtru umożliwia filtrowanie przychodzących danych źródłowych na podstawie określonych warunków.

Zastosuj filtr wtórny do danych wynikowych

Ten typ filtru umożliwia zastosowanie filtru do danych wynikowych po transformacji na podstawie określonych warunków. Możliwość zastosowania filtru do wyniku po transformacji pozwala na wykluczenia oparte na wynikach złożonych obliczeń, podsumowań lub funkcji okienkowych.

Końcowe wycinanie tabeli danych (limit)

Wycinanie wierszy umożliwia ograniczenie liczby wierszy w zbiorze wynikowym na podstawie zakresu i punktu początkowego.

Składnia filtrów

Składnia filtrów korzysta z Python SQLAlchemy, czyli tej samej składni, która obowiązuje w innych wyrażeniach.

Przykłady i funkcje wyrażeń znajdziesz w obszarze Wyrażenia.