Eine Live-Datenquelle verbinden
~30 Minuten · eine Verbindung, eine geladene Tabelle, eine geplante Aktualisierung
Die anderen Tutorials beginnen mit einer hochgeladenen CSV-Datei. Echte Daten liegen meist woanders – in einer Datenbank, einem Warehouse, einer SaaS-App, einem Cloud-Speicher –, und PlaidCloud soll sie direkt lesen, nicht aus einem veralteten Export. Dieses Tutorial verbindet eines dieser Systeme, lädt dessen Daten in eine Projekttabelle, zeigt das Ergebnis in einer Vorschau und richtet die Aktualisierung so ein, dass die Tabelle von selbst aktuell bleibt.
Sie erledigen vier Dinge: eine Verbindung erstellen, Daten über einen Workflow-Schritt laden, eine Vorschau anzeigen und die Aktualisierung planen. Jedes entspricht einem der Bausteine von PlaidCloud, und dasselbe Muster funktioniert, womit auch immer Sie sich verbinden.
Was Sie Erstellen
Abschnitt betitelt „Was Sie Erstellen“Eine Projekttabelle, die sich aus einer externen Quelle füllt und diese nach Zeitplan erneut liest – ohne manuelles erneutes Hochladen.
Voraussetzungen
Abschnitt betitelt „Voraussetzungen“- Ein PlaidCloud-Workspace (starten Sie eine kostenlose Testphase, falls Sie noch keinen haben)
- Ein Projekt, in dem Sie arbeiten, und ein Workflow darin (erstellen Sie einen auf der Registerkarte Workflows – siehe Einen Workflow erstellen)
- Zugangsdaten für die Quelle, mit der Sie sich verbinden – ein Datenbank-Host mit Anmeldung, ein API-Token, ein Cloud-Speicherschlüssel, was auch immer das System verwendet
Schritt 1: Den Konnektor Auswählen
Abschnitt betitelt „Schritt 1: Den Konnektor Auswählen“PlaidCloud erreicht jede Art von externem System über einen eigens dafür entwickelten Konnektor, der Authentifizierung und Protokoll des jeweiligen Anbieters kennt. Ihren finden Sie in der Konnektorreferenz – die Kategorien sind:
| Kategorie | Beispiele |
|---|---|
| Datenbanken und Data Lakes | PostgreSQL, SQL Server, Snowflake, BigQuery, Databricks, Redshift, Iceberg, Delta Lake |
| REST / SaaS | Salesforce, NetSuite, Workday, QuickBooks, Stripe |
| ERP-Systeme | SAP ECC, S/4HANA, Oracle EBS/Fusion, Infor |
| Cloud, Google, Zusammenarbeit | Cloud-Dienste, Google Sheets/BigQuery, Slack, Microsoft Teams |
| Singer-Quellen | über 130 Tap-basierte Quellen – Stripe, GitHub, HubSpot und mehr |
| Git-Anbieter | GitHub, GitLab, Bitbucket sowie das verwaltete PlaidCloud Git |
Kein eigener Konnektor? Verwenden Sie den generischen. Für einen Dienst ohne eigenen Eintrag erreicht die generische REST-Verbindung jede HTTP-API. Beachten Sie: Die genauen Feldnamen, die ein Konnektor benötigt, stehen auf seiner Referenzseite.
Dieses Tutorial führt eine Singer-Quelle als konkretes Beispiel durch, weil sie Daten mit den wenigsten Teilen durchgängig lädt. Ein Datenbank- oder Cloud-Speicher-Konnektor folgt denselben drei Schritten – Verbindung, Import-Schritt, Zieltabelle – mit Feldern, die für das jeweilige System spezifisch sind.
Schritt 2: Die Verbindung Erstellen
Abschnitt betitelt „Schritt 2: Die Verbindung Erstellen“Eine Verbindung ist eine gespeicherte Konfiguration, die Endpunkt und Zugangsdaten einmalig vorhält, sodass jeder Workflow-Schritt sie über ihren Namen wiederverwendet.
- Öffnen Sie Tools > Connections.
- Klicken Sie in der Symbolleiste auf Neue Verbindung und wählen Sie Ihr System aus dem Menü.
- Füllen Sie das Verbindungsformular aus. Die Registerkarten variieren je nach Typ, üblicherweise legen Sie aber Folgendes fest:
- Verbindungskonfiguration (bei REST Verbindungsdetails) – den Verbindungs-Namen, eine optionale Notiz, Host/Port/Datenbank (oder Host/Authentifizierungstyp), den Schalter Verwendung auf Aktiv und das Sicherheitsmodell.
- Zugangsdaten – in einer Gruppe Authentifizierungsdaten bei einer Datenbankverbindung oder auf einer eigenen Registerkarte Authentifizierung bei einer REST-Verbindung.
- SSL-Konfiguration / SSH-Konfiguration – aktivieren Sie Verschlüsselung oder tunneln Sie über einen Bastion-Host, wenn Ihre Quelle das verlangt.
- Klicken Sie auf Erstellen. Die Verbindung erscheint in der Liste, Sie sind ihr Eigentümer.
Das Sicherheitsmodell legt fest, wer sie sonst noch verwenden kann – von Privat (nur Eigentümer) bis Alle Arbeitsbereichsmitglieder. Die vollständige Beschreibung Feld für Feld und wie Sie Zugriff erteilen, finden Sie unter Eine Verbindung erstellen und verwalten.
Geheimnisse sind schreibgeschützt. Passwort- und Token-Felder erscheinen leer, wenn Sie eine gespeicherte Verbindung erneut öffnen; lassen Sie eines beim Speichern leer, bleibt der gespeicherte Wert erhalten. Tippen Sie es nur neu ein, wenn Sie es ändern.
Eine Verbindung, viele Umgebungen. Eine einzelne Verbindung kann pro Umgebung eine andere Konfiguration enthalten – einen Entwicklungs-Host und einen Produktions-Host unter einem Namen –, ausgewählt über die Umgebungsauswahl in der Symbolleiste. Richten Sie das jetzt ein, wenn Sie denselben Workflow später zwischen Umgebungen übertragen.
Schritt 3: Die Verbindung Testen
Abschnitt betitelt „Schritt 3: Die Verbindung Testen“Stellen Sie sicher, dass PlaidCloud die Quelle tatsächlich erreicht, bevor Sie darauf aufbauen.
- Speichern Sie die Verbindung zuerst – Tests laufen gegen die gespeicherte Konfiguration, nicht gegen ungespeicherte Änderungen.
- Eine Datenbankverbindung mit SSH bietet auf ihrer Registerkarte SSH-Konfiguration einen Tunneltest.
- Die generische REST-Verbindung hat eine Registerkarte Testen, die über die gespeicherte Verbindung eine Ad-hoc-Anfrage absetzt.
Schlägt der Test fehl, sind die üblichen Ursachen ein falscher Host oder Port, eine Firewall, die den ausgehenden Verkehr von PlaidCloud nicht zulässt, oder Zugangsdaten, die neu eingegeben werden müssen (denken Sie daran, dass Geheimnisse leer zurückgelesen werden).
Schritt 4: Die Daten in eine Tabelle Laden
Abschnitt betitelt „Schritt 4: Die Daten in eine Tabelle Laden“Daten gelangen über einen Workflow-Import-Schritt in ein Projekt, der auf Ihre Verbindung verweist und in eine Zieltabelle schreibt. Ansichten können keine Importziele sein – eine Tabelle enthält die physischen Zeilen.
Am Beispiel einer Singer-Quelle:
- Doppelklicken Sie auf Ihren Workflow, um ihn im Workflow-Explorer zu öffnen.
- Fügen Sie einen Schritt hinzu und wählen Sie Import: Singer-Quelle. Der Editor öffnet sich mit einer Registerkarte Quelle und einer Registerkarte Streams.
- Wählen Sie auf der Registerkarte Quelle Ihre Verbindung, einen Synchronisierungsmodus (siehe Schritt 6) und klicken Sie dann auf Streams ermitteln. Die Ermittlung läuft auf der Hintergrund-Ausführungsengine und kann beim ersten Mal bis zu etwa drei Minuten dauern.
- Öffnen Sie auf der Registerkarte Streams den gewünschten Stream, aktivieren Sie Diesen Stream importieren und legen Sie seine Zieltabelle fest – die Tabelle, in die die Zeilen geladen werden.
- Speichern Sie den Schritt und führen Sie ihn aus. Die Zeilen werden in die Zieltabelle geladen.
Der Schritt speichert einen Verweis auf die Verbindung, keine Kopie ihrer Zugangsdaten. Jede Ausführung liest zur Laufzeit die aktuellen Zugangsdaten der Verbindung – wenn Sie also ein Token austauschen, aktualisieren Sie es einmal an der Verbindung, und jeder Schritt übernimmt es bei seiner nächsten Ausführung.
Bei einem Datenbank- oder Cloud-Speicher-Konnektor unterscheidet sich der Import-Schritt, das Muster ist aber identisch: auf die Verbindung verweisen, eine Zieltabelle benennen, ausführen. Die Konnektorreferenz verlinkt den jeweils verwendeten Schritt, und der Workflow-Leitfaden behandelt Aufbau und Ausführung von Schritten.
Schritt 5: Eine Vorschau der Geladenen Daten Anzeigen
Abschnitt betitelt „Schritt 5: Eine Vorschau der Geladenen Daten Anzeigen“Überall dort, wo PlaidCloud eine Tabelle oder Ansicht zeigt, öffnet ein Klick darauf den Tabellen-Explorer – die Prüfung des Imports ist also einen Klick von der Registerkarte Tabellen entfernt.
- Die Ansicht Raster zeigt die Zeilen (Standardlimit 5.000). Die Auswahl Oben / Zufällig steuert, welche Zeilen sie füllen – wechseln Sie zu Zufällig, um die Qualität bei einer großen Tabelle stichprobenartig zu prüfen, statt nur die ersten Zeilen.
- Die Ansicht Details fasst jede Spalte zusammen: Anzahl eindeutiger Werte und Statistiken wie Min/Max/Mittelwert/Summe für numerische Spalten.
- Wenn eine Spalte mit dem falschen Typ geladen wurde, beheben Sie das mit den Spaltenzuordnungen in Ihren Workflow-Schritten, nicht hier.
Prüfen Sie, ob die Zeilenanzahl und einige Beispielwerte zu dem passen, was Sie von der Quelle erwarten. Wenn ja, funktionieren Verbindung und Import.
Schritt 6: Die Aktualisierung Einrichten
Abschnitt betitelt „Schritt 6: Die Aktualisierung Einrichten“Ein einmaliger Import ist eine Momentaufnahme. Damit die Tabelle aktuell bleibt, legen Sie fest, wie jede Ausführung neue Daten abgleicht, und planen Sie dann die Ausführungen.
Wie jede Ausführung abgleicht – wird im Import-Schritt festgelegt. Bei einer Singer-Quelle sind die Synchronisierungsmodi:
| Synchronisierungsmodus | Was jede Ausführung tut | Verwenden, wenn |
|---|---|---|
| Gesamte Tabelle (bei jeder Ausführung ersetzen) | Extrahiert alles neu und ersetzt das Ziel | Kleine oder vollständig aktualisierte Quellen |
| Inkrementell (neue Daten anhängen) | Extrahiert nur Zeilen, die seit der letzten Ausführung neu sind, und hängt sie an | Quellen mit einem Replikationsschlüssel (einem Änderungszeitstempel oder einer aufsteigenden ID) |
| Upsert (über Schlüssel zusammenführen) | Extrahiert den Stream erneut und führt über Schlüsselspalten zusammen – aktualisiert Treffer, fügt neue Schlüssel ein, behält den Rest | Quellen, deren vorhandene Datensätze sich ändern und bei denen Sie eine Zeile pro Schlüssel wünschen |
Andere Konnektoren bieten ihre eigenen Entsprechungen; das Prinzip – ersetzen, anhängen oder zusammenführen – ist dasselbe.
Wann die Ausführungen stattfinden – planen Sie den Workflow, damit er sich von selbst erneut ausführt. Richten Sie unter Geplante Ereignisse eine wiederkehrende Ausführung ein; von da an wird die Tabelle in diesem Takt ohne manuellen Schritt aktualisiert. Sie können den Workflow auch jederzeit von Hand ausführen, wenn Sie sofort aktualisieren möchten.
Wählen Sie Schlüsselspalten, die immer vorhanden sind (Upsert). Upsert gleicht Zeilen über den exakten Schlüsselwert ab, und ein Nullschlüssel stimmt nie überein – Zeilen mit Nullschlüssel werden bei jeder Ausführung eingefügt und häufen sich an. Verwenden Sie eine Spalte, die die Quelle immer füllt.
Optional: Die Tabelle Veröffentlichen
Abschnitt betitelt „Optional: Die Tabelle Veröffentlichen“Wenn Dashboards, PlaidXL oder externe BI-Werkzeuge diese Tabelle nutzen, geben Sie ihr einen veröffentlichten Berichtsnamen, damit sie sich von Zwischentabellen abhebt. Klicken Sie die Tabelle auf der Registerkarte Tabellen mit der rechten Maustaste an und wählen Sie Set Published Table Reporting Name – siehe Tabellen veröffentlichen. Nur veröffentlichte Namen erreichen nachgelagerte Werkzeuge.
Wie es Weitergeht
Abschnitt betitelt „Wie es Weitergeht“- Leitfaden zu Verbindungen – Verbindungen erstellen, testen, klonen und den Zugriff darauf steuern
- Singer-Quellen – die in dieser Anleitung verwendete Tap-basierte Quelle im Detail
- Konnektorreferenz – jedes unterstützte System und die genauen Felder, die es benötigt
- Tabellen-Explorer und Tabellen und Ansichten – das Geladene prüfen und verstehen
- Geplante Ereignisse – die Aktualisierung nach wiederkehrendem Zeitplan ausführen
- Daten laden, transformieren und veröffentlichen – die soeben geladene Tabelle bereinigen und umformen
- Ein Umlagemodell erstellen – verbundene Daten in einem Modell einsetzen