Importuj CSV

Opis

Importuje pliki tekstowe z separatorami z PlaidCloud Document. Obejmuje to między innymi następujące typy separatorów:

przecinek (, )
kreska pionowa (|)
średnik (; )
tabulator
spacja ( )
znak małpy (@)
tylda (~)
dwukropek (:)

Przykłady

Brak przykładów…

Parametry importu

Importuj źródło i cel

Selektor plików w tej transformacji pozwala wybrać plik przechowywany w lokalizacji dokumentów PlaidCloud do zaimportowania.

Możesz też wybrać katalog do importu, a wszystkie znajdujące się w nim pliki zostaną zaimportowane podczas uruchomienia transformacji.

Konto źródłowe

Wybierz konto dokumentów PlaidCloud, do którego masz dostęp. Dzięki temu w kolejnym wyborze będzie można wskazać katalog lub plik.

W projekcie lista oferuje na górze także Project Default — zastępnik konta, które projekt ma aktualnie ustawione jako domyślne. Nowy krok wstępnie wybiera Project Default, jeśli projekt je ma; istniejący krok zachowuje konto, z którym został wcześniej zapisany, dopóki go nie zmienisz. Krok pozostawiony na Project Default uruchamia się na koncie, które w danej chwili jest domyślne dla projektu — jeśli żadne nie jest ustawione, uruchomienie kończy się niepowodzeniem i wskazuje projekt, zamiast przechodzić na inne konto.

Opcja wyszukiwania

Opcja Szukaj pozwala znaleźć wszystkie pasujące pliki poniżej wskazanej ścieżki katalogu i zaimportować je. Jest to szczególnie przydatne, gdy trzeba uwzględnić wiele plików, ale są one przechowywane w zagnieżdżonych katalogach lub wymieszane z innymi plikami w tym samym katalogu, których nie chcesz importować.

Wybrana ścieżka wyszukiwania jest katalogiem początkowym. Proces wyszukiwania sprawdzi wszystkie pliki w tym katalogu oraz w podkatalogach pod kątem określonych warunków wyszukiwania. Upewnij się, że kryteria wyszukiwania można zastosować także do plików w podkatalogach.

Wyszukiwanie można zastosować przy użyciu następujących warunków:

Dokładnie: dopasuj dokładnie tekst wyszukiwania
Zaczyna się od: dopasuj każdy plik, którego nazwa zaczyna się od tekstu wyszukiwania
Zawiera: dopasuj każdy plik, którego nazwa zawiera tekst wyszukiwania
Kończy się na: dopasuj każdy plik, którego nazwa kończy się tekstem wyszukiwania

Asystent AI lub REST API może także ustawić wyszukiwanie na glob — wzorzec z symbolami wieloznacznymi, taki jak CO Store*.yxdb, dopasowywany do całej nazwy pliku bez rozróżniania wielkości liter — albo na regex — wyrażenie regularne, do którego musi pasować cała nazwa pliku. Wyrażenie regularne rozróżnia wielkość liter, chyba że zaczyna się od (?i).

Ścieżka pliku źródłowego

Gdy do importu potrzebny jest konkretny plik lub katalog plików, wybranie pliku lub katalogu jest lepszą opcją niż wyszukiwanie.

Aby wybrać plik lub katalog, użyj przycisku przeglądania i wskaż ścieżkę na wybranym wyżej koncie dokumentów.

Podstawianie zmiennych

Zarówno w opcji wyszukiwania, jak i w opcji konkretnego pliku lub katalogu można używać zmiennych w ścieżce, tekście wyszukiwania i nazwach plików.

Przykład wykorzystujący zmienną current_month do dynamicznego wskazania właściwego pliku:

legal_entity/inputs/{current_month}/ledger_values.csv

Tabela docelowa

Wybór celu importu jest ograniczony wyłącznie do tabel, ponieważ widoki nie zawierają danych źródłowych.

Opcja dynamiczna

Opcja Dynamiczna pozwala określić tabelę za pomocą tekstu, w tym zmiennych. Jest to przydatne w przepływach pracy sterowanych zmiennymi, w których odwołania do tabel i widoków są względne wobec podanych zmiennych.

Przykład wykorzystujący zmienną current_month do dynamicznego wskazania tabeli docelowej:

legal_entity/inputs/{current_month}/ledger_values

Opcja statyczna

Gdy jako cel importu ma być użyta konkretna tabela, pozostaw pole Dynamiczna niezaznaczone i wybierz tabelę docelową.

Jeśli tabela docelowa nie istnieje, wybierz przycisk Utwórz nowe, aby utworzyć tabelę w żądanej lokalizacji.

Eksplorator tabel jest zawsze dostępny przy każdym wyborze tabeli. Kliknij przycisk Eksploratora tabel po prawej stronie wyboru tabeli, a otworzy się okno Eksploratora tabel.

Opcja Usuń znaki spoza ASCII

Po wybraniu tej opcji import usunie całą zawartość, która nie jest ASCII. Chociaż PlaidCloud w pełni obsługuje Unicode (UTF-8), pliki z rzeczywistych źródeł mogą zawierać różnorodne kodowania i przypadkowe znaki, które utrudniają ich przetwarzanie.

Jeśli zawartość pliku ma być wyłącznie w ASCII, zaznaczenie tego pola pomoże zapewnić bezproblemowe działanie procesu importu.

Opcja usuwania plików po imporcie

Ta opcja pozwala procesowi importu usunąć plik z konta dokumentów PlaidCloud po pomyślnym zakończeniu importu.

Może to być przydatne, gdy pliki importu są generowane i można je odtworzyć z systemu źródłowego albo nie ma powodu, aby zachowywać surowe pliki wejściowe po ich przetworzeniu.

Usuwane są tylko pliki, które zostały zaimportowane. Plik pominięty lub taki, który wygenerował ostrzeżenie podczas importu, pozostaje w folderze.

Opcja pomijania ponownego importu, jeśli pliki źródłowe nie uległy zmianie

Gdy ta opcja jest włączona, uruchomienie tego kroku w przepływie pracy pomija cały import — pobieranie, konwersję i przebudowę tabeli — jeśli pliki źródłowe i ustawienia kroku nie zmieniły się od ostatniego udanego uruchomienia. Pozwala to uniknąć powtarzania pracy, gdy zaplanowany przepływ pracy uruchamia się ponownie na niezmienionych plikach źródłowych.

Krok porównuje każdy plik źródłowy na podstawie jego ścieżki, rozmiaru i czasu ostatniej modyfikacji (oraz skrótu zawartości, jeśli źródło go udostępnia). Jeśli jakikolwiek plik zostanie dodany, usunięty lub zmieniony albo zmieni się konfiguracja kroku, import uruchamia się normalnie. Opcja jest domyślnie włączona — odznacz ją, aby zawsze importować ponownie — a ręczne, jednorazowe importy zawsze się uruchamiają.

Pominięcie wymaga również, aby tabela docelowa nadal zawierała wiersze załadowane podczas ostatniego importu. Jeśli tabela została w międzyczasie opróżniona lub nie można odczytać liczby jej wierszy, import uruchamia się ponownie, zamiast pominąć go i pozostawić kolejne kroki bez danych.

Niektóre źródła (na przykład SFTP) nie udostępniają skrótu zawartości, więc w ich przypadku sygnałem zmiany są wyłącznie rozmiar pliku i czas ostatniej modyfikacji. Plik zastąpiony w miejscu innym o tym samym rozmiarze i czasie modyfikacji zostałby wtedy uznany za niezmieniony i pominięty — odznacz tę opcję w kroku, którego źródło może być aktualizowane w ten sposób.

Sprawdź wybrany plik źródłowy

Po naciśnięciu przycisku Odgadnij ustawienia na podstawie pliku źródłowego PlaidCloud otworzy plik i sprawdzi go, aby spróbować ustalić format danych. Zawsze sprawdź odgadnięte ustawienia, aby upewnić się, że są poprawne.

Nie można zapisać kroku, którego plik nie zawiera żadnych kolumn: zapisywanie zostaje zatrzymane z komunikatem Nie wykryto kolumn. Jeśli PlaidCloud nie mógł odczytać pliku, komunikat podaje przyczynę — na przykład rozszerzenie nietypowe dla pliku z separatorami lub ścieżkę pliku używającą zmiennej przepływu pracy, która nie jest zdefiniowana. W przeciwnym razie sprawdź, czy separator, znak cudzysłowu i znak ucieczki odpowiadają plikowi, czy jest to plik tekstowy z separatorami i czy nie jest pusty.

Format danych

Separator

Jak wspomniano powyżej, Sprawdź źródło podejmie próbę ustalenia separatora w pliku źródłowym. Jeśli potrzebny jest inny separator, określ go w tej sekcji. Można wybrać jeden ze standardowych separatorów. Krok bez ustawionego separatora używa przecinka.

przecinek (, )
kreska pionowa (|)
średnik (; )
tabulator
spacja ( )
znak małpy (@)
tylda (~)
dwukropek (:)

Typ nagłówka

Ponieważ pliki CSV mogą zawierać nagłówki lub ich nie zawierać, PlaidCloud umożliwia użycie nagłówków, ich zignorowanie albo ustalenie dopasowania kolumn na podstawie ich kolejności.

Bez nagłówka: plik CSV nie zawiera nagłówka. Użyj listy źródłowej w Data Mapper, aby ustalić dopasowanie kolumn
Ma nagłówek - użyj nagłówka i zastąp listę pól: plik CSV ma nagłówek. Użyj podanych nazw z nagłówka i zignoruj listę źródłową w Data Mapper.
Ma nagłówek - pomiń nagłówek i użyj listy pól: plik CSV ma nagłówek, ale należy go zignorować. Użyj nazw podanych na liście źródłowej w Data Mapper.

Typ nagłówka jest zapisywany w header_treatment jako use lub skip dla tych dwóch opcji nagłówka. Importuj Excel akceptuje także dynamic.

Format daty

To ustawienie jest przydatne, jeśli daty zawarte w pliku CSV nie są łatwo rozpoznawalne jako daty i godziny. Proces importu próbuje konwertować daty, ale odrobina dodatkowych informacji może pomóc w imporcie.

Wartość, której hurtownia danych nie może odczytać zgodnie z podanym formatem, jest zapisywana jako pusta, zamiast zatrzymywać import, więc format niepasujący do pliku daje kolumnę pustych dat i import, który mimo to raportuje powodzenie. Po zmianie tego ustawienia sprawdź zaimportowaną kolumnę, zanim zaufasz wynikowi.

Znaki specjalne

Dane wejściowe dotyczące znaków specjalnych określają, jak PlaidCloud traktuje obecność niektórych znaków i co one oznaczają w kontekście przetwarzania pliku CSV

Znak cudzysłowu: znak służący do oznaczenia ujętego w cudzysłów fragmentu tekstu, który ma być przetwarzany jako jedno pole. Gdy nie jest ustawiony, jest to cudzysłów prosty (").
Znak ucieczki: znak wskazujący, że następny znak ma być przetworzony tak, jak jest, a nie interpretowany jako znak specjalny. Przydatny, gdy pole może zawierać separator. Gdy nie jest ustawiony, jest to ukośnik odwrotny (\).
Znak null: ponieważ pliki CSV nie mają typów danych, ten znak pozwala wskazać, że wartość ma być NULL, a nie pustym ciągiem lub 0.
Puste pola: puste pole jest ładowane jako NULL w każdym lakehouse, zarówno dla kolumn tekstowych, jak i liczbowych, więc pusta liczba to NULL, a nie 0. Komórka zawierająca wyłącznie spacje jest ładowana bez zmian.
Ujemne na końcu: niektóre systemy źródłowe generują liczby ujemne z końcowym znakiem minus zamiast poprzedzającego. To ustawienie przetwarza je jako liczby ujemne.

Wybór wierszy

W przypadku plików wejściowych z zbędnymi rekordami ustaw Pomiń wiersze na liczbę wierszy do pominięcia przed rozpoczęciem przetwarzania danych. Jest to przydatne, jeśli pliki zawierają bloki nagłówkowe, które trzeba pominąć, zanim dojdzie się do danych tabelarycznych.

Pominięte wiersze obejmują puste wiersze. Przy Typ nagłówka ustawionym na Ma nagłówek - użyj nagłówka i zastąp listę pól nagłówek jest odczytywany z pierwszego wiersza po pominiętych wierszach, więc dane są mapowane na kolumny docelowe według nazw z nagłówka. Plik zawierający tylko pominięte wiersze i nagłówek, bez wierszy danych, nie importuje niczego, a krok mimo to kończy się pomyślnie.

Przykład: eksport listy z SAP

Eksport listy z SAP, taki jak KE24, KSB1 lub FAGLL03, zaczyna się od bloku selekcji, często z pustymi wierszami, przed nagłówkiem kolumn:

Line Item Journal Entries
Company Code: 1000
Posting Date: 2026-09-01 to 2026-09-30

Company Code|Document Number|Posting Date|Amount
1000|100004512|2026-09-03|1,500.00

Nagłówek znajduje się w wierszu 5, więc przed nim są cztery wiersze. Ustaw Pomiń wiersze na 4, a Typ nagłówka na Ma nagłówek - użyj nagłówka i zastąp listę pól. Import odczytuje Company Code, Document Number, Posting Date i Amount jako nazwy kolumn, a pierwszym wierszem danych jest wiersz po nagłówku.

Zaznacz Keep Quoted Empty Fields (“”) As Empty String, aby załadować puste pole w cudzysłowie jako pusty ciąg zamiast NULL.

Ustawienia dodatkowe

Więcej opcji CSV zawiera te pola:

Kodowanie (encoding) — kodek Pythona, którym plik jest odczytywany, zamiast wykrywania kodowania. Bajty, których nie można zdekodować, są odczytywane jako U+FFFD.
Separatory (delimiters) — tablica JSON zawierająca każdy tekst oddzielający kolumny, zamiast pojedynczego separatora. Każdy może mieć kilka znaków. Zaznacz Kilka separatorów z rzędu liczy się jako jeden (combine_delimiters), aby kilka separatorów z rzędu liczyć jako jeden.
Separator wierszy (row_delimiter) — tekst kończący wiersz tam, gdzie występuje poza cudzysłowem; podział wiersza w innym miejscu jest wtedy częścią wartości. Jeśli pole jest puste, wiersz kończy każdy podział wiersza.
Prefiks wiersza komentarza (comment) — wiersze zaczynające się od tego tekstu nie są importowane. Komentarze (comments) to lista komentarzy w postaci par Zaczyna się od i Kończy się na, które są wycinane wszędzie tam, gdzie występują poza cudzysłowem; bez Kończy się na komentarz trwa do końca wiersza.
Kontynuacja wiersza (line_continuation) — ten tekst przed podziałem wiersza łączy wiersz z następnym.
Cudzysłów zamykający (quote_end) — cudzysłów kończący wartość w cudzysłowie, gdy różni się od Znak cudzysłowu. Zaznacz Wartość w cudzysłowie zachowuje znaki cudzysłowu (keep_quotes), aby zachować znaki cudzysłowu wartości.
Importuj pusty wiersz jako wiersz pustych wartości (keep_blank_lines) — pusty wiersz jest importowany jako wiersz pustych wartości, zamiast być pomijany.

Wybór danych tabeli

Konfiguracja Data Mapper

Data Mapper tabeli

Data Mapper służy do mapowania kolumn z danych źródłowych na tabelę danych docelowych.

Sprawdzanie źródła i wypełnianie mappera

Przycisk menu Sprawdź źródło udostępnia dodatkowe sposoby mapowania kolumn ze źródła na cel:

Wypełnij obie tabele mapowania: propaguje wszystkie wartości z tabeli danych źródłowych do tabeli danych docelowych. Jest to ustawienie domyślne.
Wypełnij tylko tabelę mapowania źródła: mapuje wszystkie wartości wyłącznie w tabeli danych źródłowych. Jest to przydatne przy modyfikowaniu istniejącego przepływu pracy, gdy zmieniła się struktura kolumn źródłowych.
Wypełnij tylko tabelę mapowania celu: propaguje wszystkie wartości wyłącznie do tabeli danych docelowych.

Jeśli opcje kolumn źródłowych i docelowych nie wystarczą, kolejne kolumny można dodać do tabeli danych docelowych na kilka sposobów:

Propaguj wszystko wstawia wszystkie kolumny źródłowe do tabeli danych docelowych, niezależnie od tego, czy już w niej istniały.
Propaguj zaznaczone wstawia tylko zaznaczone kolumny źródłowe.
Kliknij prawym przyciskiem myszy po stronie docelowej i wybierz Wstaw wiersz, aby wstawić wiersz bezpośrednio nad aktualnie zaznaczonym wierszem.
Kliknij prawym przyciskiem myszy po stronie docelowej i wybierz Dołącz wiersz, aby wstawić wiersz na dole (z prawej strony) tabeli danych docelowych.

Usuwanie kolumn

Aby usunąć kolumny z tabeli danych docelowych, zaznacz wybrane kolumny, kliknij prawym przyciskiem myszy i wybierz Usuń.

Kolumny źródłowe, których nie ma już na liście

Wiersz docelowy może wskazywać Kolumnę źródłową, której tabela danych źródłowych już nie zawiera, na przykład po ponownym sprawdzeniu źródła. Krok nigdy sam nie usuwa takiego wiersza. Zamiast tego nazwa kolumny jest wyświetlana na czerwono, za znakiem ostrzegawczym ⚠, a po najechaniu na nią kursorem pojawia się informacja, że kolumny nie ma wśród kolumn źródłowych. W kroku z kilkoma tabelami, takim jak unia, każda tabela jest sprawdzana względem własnych kolumn źródłowych.

Wiersz ze Stałą, Wyrażeniem lub podsumowaniem Liczba (z wartościami null) nigdy nie jest oznaczany, ponieważ krok nie odczytuje jego kolumny źródłowej. Nic nie jest oznaczane, dopóki tabela danych źródłowych nie zawiera żadnych kolumn, na przykład przed pierwszym sprawdzeniem źródła.

Podczas zapisywania kroku, który nadal ma oznaczone wiersze, okno Znaleziono nieaktualne kolumny wyświetla je pod kartą lub tabelą, do której należą, i oferuje trzy opcje:

Usuń wszystkie i zapisz — usuń oznaczone wiersze, a następnie zapisz.
Zapisz mimo to — zapisz krok bez zmian.
Anuluj — wróć do kroku bez zapisywania.

Aby zachować wiersz i usunąć jego ostrzeżenie, dodaj kolumnę z powrotem do tabeli danych źródłowych albo wybierz kolumnę, którą ta tabela zawiera.

Typ danych kolumny

Każda kolumna docelowa ma Typ. Kolumna propagowana ze źródła zachowuje typ kolumny źródłowej; dodany ręcznie wiersz ma początkowo typ Tekst, a w polu Typ określasz, czym kolumna ma faktycznie być — kolumna, którą zamierzasz sumować lub sortować, wymaga typu liczbowego albo daty, ponieważ tekst jest sortowany i sumowany jako tekst.

Krok zapisany z kolumną bez żadnego typu nadal się uruchamia. Typ jest ustalany w chwili rozpoczęcia kroku na podstawie kolumny źródłowej, którą ta kolumna odczytuje. Jeśli nie ma z czego go odczytać, traktowany jest jako tekst: kolumny kroku Wyodrębnij SQL pochodzą z napisanego przez Ciebie zapytania, a nie z zmapowanego źródła, a gdy kilka źródeł zawiera kolumnę o tej samej nazwie, lecz o niezgodnych typach, używany jest tekst zamiast zgadywania jednego z nich — błędne odgadnięcie powoduje konwersję, którą magazyn danych może odrzucić, a wszystko można przekonwertować na tekst.

Samodzielne ustawienie pola Typ nadal jest sposobem na określenie, czym kolumna ma być. Pozostawienie go nieustawionego oznacza zgodę na to, czym akurat jest kolumna źródłowa.

Zmiana kolejności kolumn

Aby zmienić kolejność kolumn w tabeli danych docelowych, zaznacz wybrane kolumny. Możesz użyć jednej z poniższych metod:

Strzałki przenoszenia zbiorczego: wybierz odpowiednią opcję przenoszenia za pomocą strzałek w prawym górnym rogu
Menu kontekstowe: kliknij prawym przyciskiem myszy i wybierz Przenieś na początek, Przenieś w górę, Przenieś w dół lub Przenieś na koniec.

Ograniczanie wyniku do unikalnych rekordów

Aby zwrócić tylko unikalne wartości, wybierz opcję menu Unikalne. Spowoduje to wyświetlenie zestawu pól wyboru dla każdej kolumny źródła. Wystarczy zaznaczyć pole obok odpowiedniej kolumny, aby zwrócić tylko unikalne wyniki.

W zależności od sytuacji warto rozważyć zastosowanie podsumowania.

Proces usuwania duplikatów zachowuje pierwszy znaleziony unikalny rekord, a pozostałe odrzuca. Jeśli spójność między uruchomieniami jest ważna, warto zastosować sortowanie danych.

Agregacja i grupowanie

Aby agregować wyniki, wybierz opcję menu Podsumuj. Spowoduje to wyświetlenie zestawu pól wyboru dla każdej kolumny w tabeli danych docelowych. Wybierz odpowiednią metodę podsumowania dla każdej kolumny.

Gdy Sprawdź źródło wypełnia kolumny, kolumna liczbowa zaczyna jako Grupuj według zamiast Suma, jeśli jej nazwa wygląda na identyfikator, na przykład id, customer_id, Order No lub CustomerKey, jeśli jej tabela ustawia ją jako klucz albo jeśli złączenie używa jej jako klucza.

Grupuj według
Suma
Min
Maks
Pierwsza
Ostatnia
Liczba
Liczba (z wartościami null)
Średnia
Odchylenie standardowe
Odchylenie standardowe z próby
Odchylenie standardowe z populacji
Wariancja
Wariancja z próby
Wariancja z populacji
Zaawansowane bez grupowania

Informacje o zaawansowanym użyciu Data Mapper, takim jak wyrażenia, czyszczenie i stałe, znajdziesz w artykule Zaawansowane użycie Data Mapper

Filtry danych

Table Data Filters

Aby zapewnić maksymalną elastyczność, filtry danych są dostępne zarówno dla danych źródłowych, jak i docelowych. W przypadku większych zbiorów danych szczególnie korzystne może być odfiltrowanie wierszy już na źródle, aby pozostałe operacje były wykonywane na mniejszym zbiorze danych.

Wybierz podzbiór danych

Ten typ filtru umożliwia filtrowanie przychodzących danych źródłowych na podstawie określonych warunków.

Zastosuj filtr wtórny do danych wynikowych

Ten typ filtru umożliwia zastosowanie filtru do danych wynikowych po transformacji na podstawie określonych warunków. Możliwość zastosowania filtru do wyniku po transformacji pozwala na wykluczenia oparte na wynikach złożonych obliczeń, podsumowań lub funkcji okienkowych.

Końcowe wycinanie tabeli danych (limit)

Wycinanie wierszy umożliwia ograniczenie liczby wierszy w zbiorze wynikowym na podstawie zakresu i punktu początkowego.

Składnia filtrów

Składnia filtrów korzysta z Python SQLAlchemy, czyli tej samej składni, która obowiązuje w innych wyrażeniach.

Przykłady i funkcje wyrażeń znajdziesz w obszarze Wyrażenia.