Importar Google BigQuery

Descrição

Importa dados do Google BigQuery para uma tabela de projeto do PlaidCloud. Útil para organizações que utilizam o BigQuery como principal armazém de análise e que trazem conjuntos de dados específicos para o PlaidCloud para trabalho adicional de modelação ou alocação.

A autenticação utiliza uma conta de serviço do Google Cloud; o conjunto de dados e a tabela de origem são configurados ao nível do passo.

Exemplos

Ainda sem exemplos…

Itens de configuração específicos

Brevemente…

Itens de configuração comuns

Opção Remover carateres não ASCII

Ao selecionar esta opção, a importação remove todo o conteúdo que não seja ASCII. Embora o PlaidCloud suporte plenamente Unicode (UTF-8), os ficheiros do mundo real podem conter todo o tipo de codificações e carateres perdidos que dificultam o seu processamento.

Se se espera que o conteúdo do ficheiro seja apenas ASCII, selecionar esta caixa ajuda a garantir que o processo de importação decorre sem problemas.

Opção Eliminar ficheiros após a importação

Esta opção permite que o processo de importação elimine o ficheiro da conta de documentos do PlaidCloud depois de uma importação bem-sucedida.

Pode ser útil se os ficheiros de importação forem gerados e puderem ser recriados a partir de um sistema de registo, ou se não houver motivo para manter os ficheiros de entrada em bruto depois de processados.

Só são eliminados os ficheiros que foram importados. Um ficheiro que tenha sido ignorado ou que tenha produzido um aviso durante a importação permanece na pasta.

Seletor de ficheiro de importação

O seletor de ficheiro nesta transformação permite escolher um ficheiro guardado numa localização de documentos do PlaidCloud para importação.

Também pode escolher um diretório para importar, e todos os ficheiros desse diretório serão importados como parte da execução da transformação.

Selecionar uma conta de documentos

Escolha uma conta de documentos do PlaidCloud a que tenha acesso. Isto permite-lhe selecionar um diretório ou um ficheiro na seleção seguinte.

Dentro de um projeto, a lista oferece também Project Default no topo — um substituto da conta que o projeto tem atualmente definida como predefinida. Um novo passo pré-seleciona Project Default quando o projeto tem uma; um passo existente mantém a conta com que já tinha sido guardado até a alterar. Um passo deixado em Project Default é executado na conta que for a predefinição do projeto nesse momento — se não houver nenhuma definida, a execução falha e indica o projeto, em vez de recorrer a outra conta.

Opção de pesquisa

A opção Pesquisar permite encontrar todos os ficheiros correspondentes abaixo de um caminho de diretório especificado para importar. Pode ser particularmente útil quando é necessário incluir muitos ficheiros, mas estes estão guardados em diretórios aninhados ou misturados com outros ficheiros no mesmo diretório que não pretende importar.

O caminho de pesquisa selecionado é o diretório inicial sob o qual se pesquisa. O processo de pesquisa procura todos os ficheiros nesse diretório, bem como nos subdiretórios, que correspondam às condições de pesquisa especificadas. Certifique-se de que os critérios de pesquisa também se aplicam aos ficheiros dos subdiretórios.

A pesquisa pode ser aplicada com as seguintes condições:

Exato: corresponde exatamente ao texto de pesquisa
Começa com: corresponde a qualquer ficheiro que comece com o texto de pesquisa
Contém: corresponde a qualquer ficheiro que contenha o texto de pesquisa
Termina com: corresponde a qualquer ficheiro que termine com o texto de pesquisa

Um assistente de IA ou a API REST também pode definir a pesquisa como glob, um padrão com carateres universais como CO Store*.yxdb comparado com o nome completo do ficheiro sem distinguir maiúsculas de minúsculas, ou regex, uma expressão regular com a qual o nome completo do ficheiro tem de corresponder. Uma expressão regular distingue maiúsculas de minúsculas, a menos que comece com (?i).

Opção de seleção de ficheiro ou diretório

Quando é necessário importar um ficheiro específico ou um diretório de ficheiros, escolher o ficheiro ou o diretório é uma opção melhor do que usar a pesquisa.

Para selecionar o ficheiro ou o diretório, utilize simplesmente o botão de procura para escolher o caminho da conta de documentos selecionada acima.

Substituição de variáveis

Tanto na opção de pesquisa como na opção de ficheiro/diretório específico, é possível usar variáveis no caminho, no texto de pesquisa e nos nomes de ficheiros.

Um exemplo que utiliza a variável current_month para apontar dinamicamente para o ficheiro correto:

legal_entity/inputs/{current_month}/ledger_values.csv

Tabela de destino

A seleção de destino para importações está limitada apenas a tabelas, uma vez que as vistas não contêm dados subjacentes.

Opção dinâmica

A opção dinâmica permite especificar uma tabela através de texto, incluindo variáveis. É útil em fluxos de trabalho orientados por variáveis, em que as referências a tabelas e vistas são relativas às variáveis especificadas.

Um exemplo que utiliza a variável current_month para apontar dinamicamente para a tabela de destino:

legal_entity/inputs/{current_month}/ledger_values

Opção estática

Quando se pretende uma tabela específica como destino da importação, deixe a caixa Dynamic desassinalada e selecione a tabela de destino.

Se a tabela de destino não existir, selecione o botão Criar novo para criar a tabela na localização pretendida.

O Explorador de tabelas está sempre disponível com qualquer seleção de tabela. Clique no botão do Explorador de tabelas à direita da seleção da tabela e abre-se uma janela do Explorador de tabelas.

Configuração do Data Mapper

Table Data Mapper

O Data Mapper serve para mapear colunas dos dados de origem para a tabela de dados de destino.

Inspeção e preenchimento do mapeador

Utilizar o botão de menu Inspecionar origem oferece formas adicionais de mapear colunas da origem para o destino:

Preencher ambas as tabelas de mapeamento: propaga todos os valores da tabela de dados de origem para a tabela de dados de destino. É o comportamento predefinido.
Preencher apenas a tabela de mapeamento de origem: mapeia apenas todos os valores da tabela de dados de origem. É útil ao modificar um fluxo de trabalho existente cuja estrutura de colunas de origem mudou.
Preencher apenas a tabela de mapeamento de destino: propaga todos os valores apenas para a tabela de dados de destino.

Se as opções de colunas de origem e de destino não forem suficientes, podem adicionar-se outras colunas à tabela de dados de destino de várias formas:

Propagar tudo insere todas as colunas de origem na tabela de dados de destino, quer já existam ou não.
Propagar selecionadas insere apenas as colunas de origem selecionadas.
Clique com o botão direito do rato no lado do destino e selecione Inserir linha para inserir uma linha imediatamente acima da linha atualmente selecionada.
Clique com o botão direito do rato no lado do destino e selecione Acrescentar linha para inserir uma linha no fim (extremo direito) da tabela de dados de destino.

Eliminar colunas

Para eliminar colunas da tabela de dados de destino, selecione as colunas pretendidas, clique com o botão direito do rato e selecione Eliminar.

Colunas de origem que já não constam da lista

Uma linha de destino pode indicar uma Coluna de origem que a tabela de dados de origem já não lista, por exemplo depois de a origem ter sido inspecionada novamente. O passo nunca remove essa linha por si. Em vez disso, o nome da coluna é apresentado a vermelho, atrás de um sinal de aviso ⚠, e, ao passar o cursor por cima, é indicado que a coluna não consta das colunas de origem. Num passo com várias tabelas, como uma união, cada tabela é verificada em relação às suas próprias colunas de origem.

Uma linha com uma Constante, uma Expressão ou um resumo Contagem (incluindo nulos) nunca é sinalizada, porque o passo não lê a respetiva coluna de origem. Nada é sinalizado enquanto a tabela de dados de origem não listar colunas, por exemplo antes de a origem ser inspecionada pela primeira vez.

Ao guardar um passo que ainda tem linhas sinalizadas, uma caixa de diálogo Colunas obsoletas encontradas lista-as sob o separador ou a tabela em que se encontram e oferece três opções:

Remover todas e guardar: remove as linhas sinalizadas e depois guarda.
Guardar mesmo assim: guarda o passo tal como está.
Cancelar: volta ao passo sem guardar.

Para manter uma linha e eliminar o respetivo aviso, adicione a coluna de volta à tabela de dados de origem ou escolha uma coluna que a tabela de dados de origem liste.

Tipo de dados da coluna

Cada coluna de destino tem um Tipo. Uma coluna propagada da origem mantém o tipo da coluna de origem; uma linha que adicione manualmente começa como Texto, e define o Tipo para indicar o que a coluna deve realmente ser. Uma coluna que pretenda somar ou ordenar precisa do respetivo tipo numérico ou de data, porque o texto é ordenado e somado como texto.

Um passo guardado com uma coluna sem qualquer tipo é, mesmo assim, executado. O tipo é determinado quando o passo é iniciado, a partir da coluna de origem que essa coluna lê. Quando não há nada de onde o ler, é tratado como texto: as colunas de um passo Extrair SQL vêm da consulta que escreveu e não de uma origem mapeada e, quando várias origens têm o mesmo nome de coluna com tipos discordantes, é utilizado texto em vez de adivinhar um deles, porque um palpite errado produz uma conversão que o armazém pode rejeitar, e tudo se converte em texto.

Definir o Tipo manualmente continua a ser a forma de indicar o que uma coluna deve ser. Deixá-lo por definir significa aceitar o que a coluna de origem for.

Alterar a ordem das colunas

Para reordenar as colunas na tabela de dados de destino, selecione as colunas pretendidas. Pode utilizar:

Setas de movimento em massa: selecione a opção de movimento pretendida nas setas no canto superior direito
Menu de contexto: clique com o botão direito do rato e selecione Mover para o início, Mover para cima, Mover para baixo ou Mover para o fim.

Reduzir o resultado apenas a registos distintos

Para devolver apenas opções distintas, selecione a opção de menu Distinto. Isto apresenta um conjunto de caixas de verificação para cada coluna da origem. Basta marcar a caixa junto da coluna correspondente para devolver apenas resultados distintos.

Consoante a situação, pode ser preferível considerar a utilização da sumarização.

O processo de distinção mantém o primeiro registo único encontrado e descarta os restantes. Pode querer aplicar uma ordenação aos dados, se for importante para a consistência entre execuções.

Agregação e agrupamento

Para agregar resultados, selecione a opção de menu Resumir. Isto apresenta um conjunto de caixas de seleção para cada coluna da tabela de dados de destino. Escolha um método de sumarização adequado para cada coluna.

Quando Inspecionar origem preenche as colunas, uma coluna numérica começa como Agrupar por em vez de Soma se o nome se assemelhar a um identificador, como id, customer_id, Order No ou CustomerKey, se a respetiva tabela a definir como chave ou se a junção a utilizar como chave.

Agrupar por
Soma
Mínimo
Máximo
Primeiro
Último
Contagem
Contagem (incluindo nulos)
Média
Desvio padrão
Desvio padrão da amostra
Desvio padrão da população
Variância
Variância da amostra
Variância da população
Avançado sem agrupar por

Para uma utilização avançada do Data Mapper, como expressões, limpeza e constantes, consulte Utilização avançada do Data Mapper

Table Data Filters

Para permitir a máxima flexibilidade, existem filtros de dados disponíveis nos dados de origem e nos dados de destino. Em conjuntos de dados maiores, pode ser especialmente vantajoso filtrar linhas na origem, para que as restantes operações sejam executadas sobre um conjunto de dados mais pequeno.

Selecionar subconjunto de dados

Este tipo de filtro permite filtrar os dados de origem recebidos com base nas condições especificadas.

Aplicar filtro secundário aos dados de resultado

Este tipo de filtro permite aplicar um filtro aos dados de resultado depois de transformados, com base nas condições especificadas. A possibilidade de aplicar um filtro ao resultado transformado permite exclusões com base nos resultados de cálculos complexos, sumarizações ou funções de janela.

Divisão final da tabela de dados (limite)

A capacidade de divisão de linhas permite limitar as linhas do conjunto de resultados com base num intervalo e num ponto de partida.

Sintaxe de filtros

A sintaxe de filtros utiliza o Python SQLAlchemy, que é a mesma sintaxe das outras expressões.

Consulte exemplos e funções de expressão na área Expressões.