Pular para o conteúdo

Ligar a uma Origem de Dados em Direto

~30 minutos · uma ligação, uma tabela carregada, uma atualização agendada

Os outros tutoriais partem de um CSV que carrega. Os dados reais costumam estar noutro lado — uma base de dados, um armazém de dados, uma aplicação SaaS, um armazenamento na nuvem — e pretende que o PlaidCloud os leia diretamente, e não uma exportação desatualizada. Este tutorial liga um desses sistemas, carrega os seus dados para uma tabela do projeto, pré-visualiza o resultado e configura a atualização para que a tabela se mantenha atual sozinha.

Vai fazer quatro coisas: criar uma ligação, carregar dados através de um passo de fluxo de trabalho, pré-visualizá-los e agendar a atualização. Cada uma corresponde a um dos blocos de construção do PlaidCloud, e a mesma estrutura funciona seja qual for o sistema a que se ligar.

Uma tabela de projeto que se preenche a partir de uma origem externa e volta a lê-la de forma agendada — sem recarregamento manual.

origem externaBD · SaaS · nuvemLigaçãoTools > Connectionspasso de importaçãonum fluxo de trabalhotabela do projetopré-visualizar · publicaro agendamento volta a executar o fluxo de trabalho
A ligação guarda as credenciais uma só vez; o passo de importação lê através dela para uma tabela; um agendamento mantém essa tabela atual.
  • Uma área de trabalho PlaidCloud (comece uma avaliação gratuita se não tiver uma)
  • Um projeto para trabalhar e um fluxo de trabalho dentro dele (crie um no separador Fluxos de trabalho — consulte Criar um fluxo de trabalho)
  • Credenciais da origem a que se vai ligar — o anfitrião e o início de sessão de uma base de dados, um token de API, uma chave de armazenamento na nuvem, o que esse sistema utilizar

O PlaidCloud chega a cada tipo de sistema externo através de um conector criado de propósito, que conhece a autenticação e o protocolo desse fornecedor. Encontre o seu na referência de conectores — as categorias são:

Categoria Exemplos
Bases de dados e data lakes PostgreSQL, SQL Server, Snowflake, BigQuery, Databricks, Redshift, Iceberg, Delta Lake
REST / SaaS Salesforce, NetSuite, Workday, QuickBooks, Stripe
Sistemas ERP SAP ECC, S/4HANA, Oracle EBS/Fusion, Infor
Nuvem, Google, colaboração Serviços na nuvem, Google Sheets/BigQuery, Slack, Microsoft Teams
Origens Singer Mais de 130 origens baseadas em taps — Stripe, GitHub, HubSpot e outras
Fornecedores de Git GitHub, GitLab, Bitbucket, além do PlaidCloud Git gerido

Sem conector dedicado? Use o genérico. Para um serviço sem entrada própria, a Ligação REST genérica alcança qualquer API HTTP. Tenha em conta que os nomes exatos dos campos de que cada conector precisa estão na respetiva página de referência.

Este tutorial acompanha uma Origem Singer como exemplo concreto, porque carrega dados de ponta a ponta com o menor número de componentes. Um conector de base de dados ou de armazenamento na nuvem segue os mesmos três movimentos — ligação, passo de importação, tabela de destino — com campos específicos desse sistema.

Uma ligação é uma configuração guardada que contém o endpoint e as credenciais uma só vez, para que todos os passos de fluxo de trabalho a reutilizem pelo nome.

  1. Abra Tools > Connections.
  2. Clique em Nova ligação na barra de ferramentas e escolha o seu sistema no menu.
  3. Preencha o formulário da ligação. Os separadores variam consoante o tipo, mas normalmente vai definir:
    • Configuração da ligação (ou Detalhes da ligação para REST) — o Nome da ligação, um Memorando opcional, o anfitrião/porta/base de dados (ou anfitrião/tipo de autenticação), o interruptor Utilização definido como Ativo e o Modelo de segurança.
    • Credenciais — num grupo Credenciais de autenticação numa ligação de base de dados, ou num separador Autenticação dedicado numa ligação REST.
    • Configuração SSL / Configuração SSH — ative a encriptação ou o túnel através de um bastion host se a sua origem o exigir.
  4. Clique em Criar. A ligação aparece na lista, com o utilizador como proprietário.

O Modelo de segurança decide quem mais a pode utilizar — de Privado (apenas proprietários) a Todos os membros da área de trabalho. Consulte Criar e gerir uma ligação para o guia completo campo a campo e como conceder acesso.

Os segredos são só de escrita. Os campos de palavra-passe e de token aparecem em branco quando reabre uma ligação guardada; deixar um em branco ao guardar mantém o valor armazenado. Volte a escrever apenas quando o pretender alterar.

Uma ligação, vários ambientes. Uma única ligação pode conter uma configuração diferente por ambiente — um anfitrião de desenvolvimento e um de produção sob o mesmo nome — escolhida no seletor de ambiente da barra de ferramentas. Configure isto agora se pretender promover o mesmo fluxo de trabalho entre ambientes mais tarde.

Confirme que o PlaidCloud consegue de facto chegar à origem antes de construir sobre ela.

  • Guarde primeiro a ligação — os testes são executados sobre a configuração armazenada, não sobre edições não guardadas.
  • Uma ligação de base de dados com SSH disponibiliza um teste de túnel no respetivo separador Configuração SSH.
  • A ligação REST genérica tem um separador Teste que dispara um pedido ad hoc através da ligação guardada.

Se o teste falhar, as causas habituais são um anfitrião ou porta errados, uma firewall que não permite a saída do PlaidCloud, ou uma credencial que precisa de ser reescrita (lembre-se de que os segredos são lidos em branco).

Os dados entram num projeto através de um passo de importação de fluxo de trabalho que referencia a sua ligação e escreve numa tabela de destino. As vistas não podem ser destinos de importação — uma tabela contém as linhas físicas.

Usando uma Origem Singer como exemplo prático:

  1. Faça duplo clique no seu fluxo de trabalho para o abrir no Explorador de fluxos de trabalho.
  2. Adicione um passo e escolha Importar: Origem Singer. O editor abre com um separador Origem e um separador Canais.
  3. No separador Origem, escolha a sua Ligação, selecione um Modo de sincronização (abordado no Passo 6) e clique em Detetar fluxos. A deteção é executada no motor de execução em segundo plano e pode demorar até cerca de três minutos na primeira vez.
  4. No separador Canais, abra o canal pretendido, assinale Importar este fluxo e defina a respetiva Tabela de destino — a tabela onde as linhas são carregadas.
  5. Guarde o passo e execute-o. As linhas são carregadas na tabela de destino.

O passo guarda uma referência à ligação, não uma cópia das suas credenciais. Cada execução lê as credenciais atuais da ligação no momento da execução — assim, quando roda um token, atualiza-o uma só vez na ligação e todos os passos o assumem na execução seguinte.

Para um conector de base de dados ou de armazenamento na nuvem, o passo de importação é diferente mas a estrutura é idêntica: aponte-o para a ligação, dê nome a uma tabela de destino, execute-o. A referência de conectores liga ao passo específico que cada conector usa, e o guia de fluxos de trabalho aborda a criação e a execução de passos.

Em qualquer local onde o PlaidCloud mostra uma tabela ou vista, clicar nela abre o Explorador de tabelas — por isso verificar a importação está a um clique do separador Tabelas.

  • A vista Grelha mostra as linhas (limite predefinido de 5000). O seletor Superiores / Aleatório controla que linhas a preenchem — mude para Aleatório para verificar pontualmente a qualidade numa tabela grande em vez de ver apenas as primeiras linhas.
  • A vista Detalhes resume cada coluna: contagens de valores únicos e estatísticas do tipo mínimo/máximo/média/soma para as colunas numéricas.
  • Se uma coluna foi carregada com o tipo errado, isso corrige-se com os mapeadores de colunas nos passos do seu fluxo de trabalho, não aqui.

Verifique se a contagem de linhas e alguns valores de amostra correspondem ao que espera da origem. Se corresponderem, a ligação e a importação estão a funcionar.

Uma importação única é um instantâneo. Para manter a tabela atual, escolha como cada execução reconcilia os dados novos e depois agende as execuções.

Como cada execução reconcilia — definido no passo de importação. Para uma Origem Singer, os modos de sincronização são:

Modo de sincronização O que cada execução faz Utilize quando
Tabela completa (substituir em cada execução) Volta a extrair tudo e substitui o destino Origens pequenas ou totalmente atualizadas
Incremental (acrescentar dados novos) Extrai apenas as linhas novas desde a última execução e acrescenta-as Origens com uma chave de replicação (uma data de atualização ou um ID incremental)
Upsert (fundir por chave) Volta a extrair o canal e funde por colunas-chave — atualiza as correspondências, insere as chaves novas, mantém o resto Origens cujos registos existentes mudam e em que pretende uma linha por chave

Outros conectores disponibilizam os seus próprios equivalentes; o princípio — substituir, acrescentar ou fundir — é o mesmo.

Quando as execuções ocorrem — agende o fluxo de trabalho para que volte a ser executado sozinho. Configure uma execução recorrente em Eventos agendados; a partir daí a tabela é atualizada nesse ritmo sem qualquer passo manual. Pode também executar o fluxo de trabalho manualmente sempre que quiser uma atualização imediata.

Escolha colunas-chave sempre presentes (Upsert). O Upsert faz corresponder linhas pelo valor exato da chave, e uma chave nula nunca corresponde — as linhas com chave nula são inseridas em cada execução e acumulam-se. Use uma coluna que a origem preencha sempre.

Se painéis de controlo, o PlaidXL ou ferramentas de BI externas forem consumir esta tabela, atribua-lhe um nome de relatório publicado para se distinguir das tabelas intermédias. Clique com o botão direito do rato na tabela no separador Tabelas e escolha Set Published Table Reporting Name — consulte Publicar tabelas. Apenas os nomes publicados chegam às ferramentas a jusante.