Połączenie z działającym źródłem danych
~30 minut · połączenie, załadowana tabela, zaplanowane odświeżanie
Pozostałe samouczki zaczynają od przesłanego pliku CSV. Prawdziwe dane zwykle znajdują się gdzie indziej — w bazie danych, hurtowni, aplikacji SaaS, magazynie w chmurze — i chcesz, aby PlaidCloud czytał je bezpośrednio, a nie z nieaktualnego eksportu. Ten samouczek łączy jeden z takich systemów, ładuje jego dane do tabeli projektu, wyświetla podgląd wyniku i ustawia odświeżanie, tak aby tabela sama pozostawała aktualna.
Wykonasz cztery rzeczy: utworzysz połączenie, załadujesz dane krokiem przepływu pracy, wyświetlisz podgląd i zaplanujesz odświeżanie. Każda z nich odpowiada jednemu z elementów składowych PlaidCloud, a ten sam schemat działa niezależnie od tego, z czym się łączysz.
Co zbudujesz
Dział zatytułowany „Co zbudujesz”Tabelę projektu, która sama wypełnia się z zewnętrznego źródła i odczytuje je ponownie według harmonogramu — bez ręcznego ponownego przesyłania.
Wymagania wstępne
Dział zatytułowany „Wymagania wstępne”- Obszar roboczy PlaidCloud (rozpocznij bezpłatny okres próbny, jeśli go nie masz)
- Projekt, w którym będziesz pracować, i przepływ pracy w nim (utwórz go na karcie Przepływy pracy — zobacz Tworzenie przepływu pracy)
- Dane uwierzytelniające do źródła, z którym się łączysz — host bazy danych i login, token API, klucz magazynu w chmurze, cokolwiek używa dany system
Krok 1: wybierz konektor
Dział zatytułowany „Krok 1: wybierz konektor”PlaidCloud łączy się z każdym rodzajem systemu zewnętrznego za pomocą dedykowanego konektora, który zna uwierzytelnianie i protokół danego dostawcy. Znajdź swój w dokumentacji konektorów — kategorie to:
| Kategoria | Przykłady |
|---|---|
| Bazy danych i jeziora danych | PostgreSQL, SQL Server, Snowflake, BigQuery, Databricks, Redshift, Iceberg, Delta Lake |
| REST / SaaS | Salesforce, NetSuite, Workday, QuickBooks, Stripe |
| Systemy ERP | SAP ECC, S/4HANA, Oracle EBS/Fusion, Infor |
| Chmura, Google, współpraca | Usługi w chmurze, Google Sheets/BigQuery, Slack, Microsoft Teams |
| Źródła Singer | ponad 130 źródeł opartych na tap — Stripe, GitHub, HubSpot i inne |
| Dostawcy Git | GitHub, GitLab, Bitbucket oraz zarządzany PlaidCloud Git |
Brak dedykowanego konektora? Użyj ogólnego. Dla usługi bez własnego wpisu ogólne połączenie REST łączy się z dowolnym interfejsem API HTTP. Dokładne nazwy pól potrzebnych dla każdego konektora znajdują się na jego stronie w dokumentacji.
Ten samouczek omawia jako konkretny przykład Źródło Singer, ponieważ ładuje dane od początku do końca przy najmniejszej liczbie ruchomych części. Konektor bazy danych lub magazynu w chmurze wymaga tych samych trzech ruchów — połączenie, krok importu, tabela docelowa — z polami specyficznymi dla danego systemu.
Krok 2: utwórz połączenie
Dział zatytułowany „Krok 2: utwórz połączenie”Połączenie to zapisana konfiguracja, która raz przechowuje punkt końcowy i dane uwierzytelniające, dzięki czemu każdy krok przepływu pracy używa jej według nazwy.
- Otwórz Tools > Connections.
- Kliknij Nowe połączenie na pasku narzędzi i wybierz swój system z menu.
- Wypełnij formularz połączenia. Karty różnią się w zależności od typu, ale zwykle ustawisz:
- Konfiguracja połączenia (lub Szczegóły połączenia dla REST) — Nazwę połączenia, opcjonalną Notatkę, host/port/bazę danych (lub host/typ uwierzytelniania), przełącznik Użycie ustawiony na Aktywny oraz Model zabezpieczeń.
- Dane uwierzytelniające — w grupie Dane uwierzytelniające w połączeniu z bazą danych lub na dedykowanej karcie Uwierzytelnianie w połączeniu REST.
- Konfiguracja SSL / Konfiguracja SSH — włącz szyfrowanie lub tunelowanie przez host bastionowy, jeśli wymaga tego Twoje źródło.
- Kliknij Utwórz. Połączenie pojawi się na liście, jako należące do Ciebie.
Model zabezpieczeń określa, kto jeszcze może go używać — od Prywatne (tylko właściciele) do Wszyscy członkowie obszaru roboczego. Pełny opis pole po polu i sposób przyznawania dostępu znajdziesz w artykule Tworzenie połączeń i zarządzanie nimi.
Sekrety są tylko do zapisu. Pola haseł i tokenów są puste po ponownym otwarciu zapisanego połączenia; pozostawienie jednego z nich pustego przy zapisie zachowuje zapisaną wartość. Wpisz ponownie tylko wtedy, gdy ją zmieniasz.
Jedno połączenie, wiele środowisk. Jedno połączenie może przechowywać inną konfigurację dla każdego środowiska — host deweloperski i produkcyjny pod jedną nazwą — wybieraną w selektorze środowiska na pasku narzędzi. Skonfiguruj to teraz, jeśli później będziesz promować ten sam przepływ pracy między środowiskami.
Krok 3: przetestuj połączenie
Dział zatytułowany „Krok 3: przetestuj połączenie”Zanim zaczniesz na nim budować, upewnij się, że PlaidCloud faktycznie może dotrzeć do źródła.
- Najpierw zapisz połączenie — testy działają na zapisanej konfiguracji, a nie na niezapisanych zmianach.
- Połączenie z bazą danych przez SSH udostępnia test tunelu na karcie Konfiguracja SSH.
- Ogólne połączenie REST ma kartę Testowanie, która wysyła doraźne żądanie przez zapisane połączenie.
Jeśli test się nie powiedzie, zwykłe przyczyny to błędny host lub port, zapora, która nie zezwala na ruch wychodzący PlaidCloud, albo dane uwierzytelniające wymagające ponownego wpisania (pamiętaj, że sekrety są odczytywane jako puste).
Krok 4: załaduj dane do tabeli
Dział zatytułowany „Krok 4: załaduj dane do tabeli”Dane trafiają do projektu przez krok importu przepływu pracy, który odwołuje się do Twojego połączenia i zapisuje do tabeli docelowej. Widoki nie mogą być celami importu — tabela przechowuje fizyczne wiersze.
Na przykładzie Źródła Singer:
- Kliknij dwukrotnie swój przepływ pracy, aby otworzyć go w Workflow Explorer.
- Dodaj krok i wybierz Import: źródło Singer. Edytor otwiera się z kartami Źródło i Strumienie.
- Na karcie Źródło wybierz swoje Połączenie, wybierz Tryb synchronizacji (omówiony w kroku 6), a następnie kliknij Wykryj strumienie. Wykrywanie działa na silniku wykonawczym w tle i za pierwszym razem może potrwać do około trzech minut.
- Na karcie Strumienie otwórz strumień, który chcesz, zaznacz Importuj ten strumień i ustaw jego Tabelę docelową — tabelę, do której trafią wiersze.
- Zapisz krok i uruchom go. Wiersze trafią do tabeli docelowej.
Krok przechowuje odwołanie do połączenia, a nie kopię jego danych uwierzytelniających. Każde uruchomienie odczytuje bieżące dane uwierzytelniające połączenia w momencie uruchomienia — więc gdy rotujesz token, aktualizujesz go raz w połączeniu, a każdy krok pobiera go przy następnym uruchomieniu.
W przypadku konektora bazy danych lub magazynu w chmurze krok importu jest inny, ale schemat jest identyczny: wskaż połączenie, nazwij tabelę docelową, uruchom. Dokumentacja konektorów zawiera linki do konkretnego kroku używanego przez każdy konektor, a przewodnik po przepływach pracy opisuje budowanie i uruchamianie kroków.
Krok 5: wyświetl podgląd załadowanych danych
Dział zatytułowany „Krok 5: wyświetl podgląd załadowanych danych”Wszędzie tam, gdzie PlaidCloud pokazuje tabelę lub widok, kliknięcie jej otwiera Eksplorator tabel — więc weryfikacja importu jest o jedno kliknięcie od karty Tabele.
- Widok Siatka pokazuje wiersze (domyślny limit 5000). Selektor Top / Losowo określa, które wiersze go wypełniają — przełącz na Losowo, aby sprawdzić jakość wyrywkowo w dużej tabeli, a nie tylko w pierwszych wierszach.
- Widok Szczegóły podsumowuje każdą kolumnę: liczbę unikatowych wartości oraz statystyki typu min/maks/średnia/suma dla kolumn liczbowych.
- Jeśli kolumna została załadowana z niewłaściwym typem, naprawia się to za pomocą mapowań kolumn w krokach przepływu pracy, a nie tutaj.
Sprawdź, czy liczba wierszy i kilka przykładowych wartości odpowiadają temu, czego oczekujesz ze źródła. Jeśli tak, połączenie i import działają.
Krok 6: ustaw odświeżanie
Dział zatytułowany „Krok 6: ustaw odświeżanie”Jednorazowy import to migawka. Aby tabela pozostawała aktualna, wybierz, jak każde uruchomienie uzgadnia nowe dane, a następnie zaplanuj uruchomienia.
Jak każde uruchomienie uzgadnia dane — ustawiane w kroku importu. Dla Źródła Singer tryby synchronizacji to:
| Tryb synchronizacji | Co robi każde uruchomienie | Użyj, gdy |
|---|---|---|
| Pełna tabela (zastąp przy każdym uruchomieniu) | Ponownie wyodrębnia wszystko i zastępuje tabelę docelową | Małe lub w pełni odświeżane źródła |
| Przyrostowy (dołącz nowe dane) | Wyodrębnia tylko wiersze nowe od ostatniego uruchomienia i dołącza je | Źródła z kluczem replikacji (czas aktualizacji lub rosnący identyfikator) |
| Upsert (scal według klucza) | Ponownie wyodrębnia strumień i scala według kolumn klucza — aktualizuje dopasowania, wstawia nowe klucze, resztę zachowuje | Źródła, w których istniejące rekordy się zmieniają i chcesz mieć jeden wiersz na klucz |
Inne konektory udostępniają własne odpowiedniki; zasada — zastąp, dołącz lub scal — jest ta sama.
Kiedy odbywają się uruchomienia — zaplanuj przepływ pracy, aby uruchamiał się ponownie samoczynnie. Skonfiguruj cykliczne uruchomienie w Zaplanowanych zdarzeniach; od tej chwili tabela odświeża się w tym rytmie bez ręcznego kroku. W dowolnym momencie możesz też uruchomić przepływ pracy ręcznie, gdy chcesz natychmiastowego odświeżenia.
Wybierz kolumny klucza, które zawsze są obecne (Upsert). Upsert dopasowuje wiersze według dokładnej wartości klucza, a klucz null nigdy nie pasuje — wiersze z kluczem null są wstawiane przy każdym uruchomieniu i się kumulują. Użyj kolumny, którą źródło zawsze wypełnia.
Opcjonalnie: opublikuj tabelę
Dział zatytułowany „Opcjonalnie: opublikuj tabelę”Jeśli pulpity, PlaidXL lub zewnętrzne narzędzia BI będą korzystać z tej tabeli, nadaj jej opublikowaną nazwę raportową, aby wyróżniała się spośród tabel pośrednich. Kliknij tabelę prawym przyciskiem myszy na karcie Tabele i wybierz Set Published Table Reporting Name — zobacz Publikowanie tabel. Do narzędzi docelowych trafiają tylko opublikowane nazwy.
Dokąd dalej
Dział zatytułowany „Dokąd dalej”- Przewodnik po połączeniach — tworzenie, testowanie, klonowanie połączeń i kontrola dostępu do nich
- Źródła Singer — źródło oparte na tap użyte w tym przewodniku, w pełnym opisie
- Dokumentacja konektorów — każdy obsługiwany system i dokładne pola, których wymaga
- Eksplorator tabel i Tabele i widoki — sprawdź i zrozum, co zostało załadowane
- Zaplanowane zdarzenia — uruchamiaj odświeżanie według cyklicznego harmonogramu
- Ładowanie, przekształcanie i publikowanie danych — wyczyść i przekształć właśnie załadowaną tabelę
- Tworzenie modelu alokacji — wykorzystaj połączone dane w modelu