Export to Parquet

Descrição

Escreve uma tabela de projeto numa conta de documentos como um ficheiro Apache Parquet. O Parquet guarda os dados por coluna e não por linha, pelo que comprime muito melhor do que o CSV em tabelas largas e permite que um leitor a jusante carregue apenas as colunas de que precisa.

Esta é normalmente a melhor escolha para entregar tabelas grandes a uma plataforma de dados na nuvem ou a um fluxo de trabalho de ciência de dados. Os tipos — inteiros, decimais, datas e carimbos de data/hora — são preservados, e uma coluna de números inteiros continua a ser uma coluna de inteiros mesmo quando alguns dos seus valores estão em branco. Combine-o com Import Parquet.

Itens de configuração específicos

Compressão

O Parquet comprime por bloco de coluna:

Snappy — leitura mais rápida, tamanho de ficheiro moderado
Zstandard — ficheiros mais pequenos, requer um leitor com Zstandard 0.8 ou posterior

Prefixo do ficheiro de destino

Quando o passo exporta uma tabela para um único ficheiro e o valor já termina em .parquet, como Loadfile1.parquet, o ficheiro é escrito exatamente com esse nome. Caso contrário, o valor é um prefixo: cada tabela é escrita como <prefix><table name>.parquet.

Um ficheiro por tabela

As exportações Parquet escrevem um ficheiro por tabela. A escolha de escrever vários ficheiros é recusada com uma mensagem a indicá-lo; desmarque essa escolha para executar a exportação.

Se o ficheiro existir

Um ficheiro que já existe (if_exists), em Se o ficheiro existir, na página Parâmetros do ficheiro:

Sobrescrevê-lo (overwrite, predefinição) substitui um ficheiro que já exista.
Fazer a etapa falhar sem escrever nada (fail) interrompe o passo, sem escrever nada, quando já existe um ficheiro que seria escrito.

Itens de configuração comuns

Seletor de ficheiro de exportação

O seletor de ficheiro nesta transformação permite escolher um destino para guardar o resultado exportado num documento do PlaidCloud.

Escolhe-se um diretório e indica-se um nome de ficheiro para o ficheiro de destino.

Tabela de origem

Opção dinâmica

A opção dinâmica permite especificar uma tabela através de texto, incluindo variáveis. É útil em fluxos de trabalho orientados por variáveis, em que as referências a tabelas e vistas são relativas às variáveis especificadas.

Um exemplo que utiliza a variável current_month para apontar dinamicamente para a tabela de origem:

legal_entity/inputs/{current_month}/ledger_values

Opção estática

Quando se pretende uma tabela específica como origem da exportação, deixe a caixa Dynamic desassinalada e selecione a tabela de origem.

O Explorador de tabelas está sempre disponível com qualquer seleção de tabela. Clique no botão do Explorador de tabelas à direita da seleção da tabela e abre-se uma janela do Explorador de tabelas.

Selecionar uma conta de documentos

Escolha uma conta de documentos do PlaidCloud a que tenha acesso. Isto permite-lhe selecionar um diretório na seleção seguinte.

Dentro de um projeto, a lista oferece também Project Default no topo — um substituto da conta que o projeto tem atualmente definida como predefinida. Um novo passo pré-seleciona Project Default quando o projeto tem uma; um passo existente mantém a conta com que já tinha sido guardado até a alterar. Um passo deixado em Project Default é executado na conta que for a predefinição do projeto nesse momento — se não houver nenhuma definida, a execução falha e indica o projeto, em vez de recorrer a outra conta.

Caminho do diretório de destino

Selecione o ícone Procurar à direita do Caminho do diretório de destino e navegue até à localização onde pretende guardar o ficheiro.

Nome do ficheiro de destino

Indique o nome com que o ficheiro exportado deve ser guardado.

Configuração do Data Mapper

Table Data Mapper

O Data Mapper serve para mapear colunas dos dados de origem para a tabela de dados de destino.

Inspeção e preenchimento do mapeador

Utilizar o botão de menu Inspecionar origem oferece formas adicionais de mapear colunas da origem para o destino:

Preencher ambas as tabelas de mapeamento: propaga todos os valores da tabela de dados de origem para a tabela de dados de destino. É o comportamento predefinido.
Preencher apenas a tabela de mapeamento de origem: mapeia apenas todos os valores da tabela de dados de origem. É útil ao modificar um fluxo de trabalho existente cuja estrutura de colunas de origem mudou.
Preencher apenas a tabela de mapeamento de destino: propaga todos os valores apenas para a tabela de dados de destino.

Se as opções de colunas de origem e de destino não forem suficientes, podem adicionar-se outras colunas à tabela de dados de destino de várias formas:

Propagar tudo insere todas as colunas de origem na tabela de dados de destino, quer já existam ou não.
Propagar selecionadas insere apenas as colunas de origem selecionadas.
Clique com o botão direito do rato no lado do destino e selecione Inserir linha para inserir uma linha imediatamente acima da linha atualmente selecionada.
Clique com o botão direito do rato no lado do destino e selecione Acrescentar linha para inserir uma linha no fim (extremo direito) da tabela de dados de destino.

Eliminar colunas

Para eliminar colunas da tabela de dados de destino, selecione as colunas pretendidas, clique com o botão direito do rato e selecione Eliminar.

Colunas de origem que já não constam da lista

Uma linha de destino pode indicar uma Coluna de origem que a tabela de dados de origem já não lista, por exemplo depois de a origem ter sido inspecionada novamente. O passo nunca remove essa linha por si. Em vez disso, o nome da coluna é apresentado a vermelho, atrás de um sinal de aviso ⚠, e, ao passar o cursor por cima, é indicado que a coluna não consta das colunas de origem. Num passo com várias tabelas, como uma união, cada tabela é verificada em relação às suas próprias colunas de origem.

Uma linha com uma Constante, uma Expressão ou um resumo Contagem (incluindo nulos) nunca é sinalizada, porque o passo não lê a respetiva coluna de origem. Nada é sinalizado enquanto a tabela de dados de origem não listar colunas, por exemplo antes de a origem ser inspecionada pela primeira vez.

Ao guardar um passo que ainda tem linhas sinalizadas, uma caixa de diálogo Colunas obsoletas encontradas lista-as sob o separador ou a tabela em que se encontram e oferece três opções:

Remover todas e guardar: remove as linhas sinalizadas e depois guarda.
Guardar mesmo assim: guarda o passo tal como está.
Cancelar: volta ao passo sem guardar.

Para manter uma linha e eliminar o respetivo aviso, adicione a coluna de volta à tabela de dados de origem ou escolha uma coluna que a tabela de dados de origem liste.

Colunas em falta na tabela de origem

Ao guardar, a própria tabela de dados de origem é verificada tal como está agora. Uma coluna que o passo lista nas suas colunas de origem mas que a tabela não tem, por exemplo uma que um passo anterior renomeou ou eliminou, significa que as colunas do passo estão desatualizadas, e um passo que lê uma coluna dessas falha quando é executado. Guardar abre então uma caixa de diálogo Colunas de origem em falta que indica cada tabela e as colunas que lhe faltam, com duas opções:

Guardar mesmo assim — guardar o passo tal como está.
Cancelar — voltar ao passo sem guardar.

Nada é removido por si, porque o problema pode estar na tabela, e esta pode voltar a mudar antes de o passo ser executado. Quando há também linhas assinaladas como já não listadas, ambas aparecem em conjunto na caixa de diálogo Colunas obsoletas encontradas, e Remover todas e guardar remove apenas as linhas assinaladas. Enquanto a lista de colunas de origem estiver vazia, são verificadas em vez disso as colunas que o passo mapeia, exceto as linhas com uma Constante, uma Expressão ou um resumo Contagem (incluindo nulos), que não leem nenhuma coluna.

Uma origem nomeada com uma variável, como {year}/Sales, é verificada com o valor da variável no momento em que guarda, e a caixa de diálogo indica a tabela que verificou, como 2026/Sales (from {year}/Sales). Uma variável definida por um ciclo contém o valor da sua última iteração, pelo que um ciclo sobre tabelas com estruturas diferentes pode avisar sobre uma tabela que a execução seguinte não vai ler. Não é verificada uma tabela que ainda não existe, por exemplo uma que um passo anterior do fluxo de trabalho cria, nem uma origem cuja variável não tem valor, uma tabela que o passo encontra por pesquisa quando é executado, ou uma tabela que não pode ser lida neste momento.

Tipo de dados da coluna

Cada coluna de destino tem um Tipo. Uma coluna propagada da origem mantém o tipo da coluna de origem; uma linha que adicione manualmente começa como Texto, e define o Tipo para indicar o que a coluna deve realmente ser. Uma coluna que pretenda somar ou ordenar precisa do respetivo tipo numérico ou de data, porque o texto é ordenado e somado como texto.

Um passo guardado com uma coluna sem qualquer tipo é, mesmo assim, executado. O tipo é determinado quando o passo é iniciado, a partir da coluna de origem que essa coluna lê. Quando não há nada de onde o ler, é tratado como texto: as colunas de um passo Extrair SQL vêm da consulta que escreveu e não de uma origem mapeada e, quando várias origens têm o mesmo nome de coluna com tipos discordantes, é utilizado texto em vez de adivinhar um deles, porque um palpite errado produz uma conversão que o armazém pode rejeitar, e tudo se converte em texto.

Definir o Tipo manualmente continua a ser a forma de indicar o que uma coluna deve ser. Deixá-lo por definir significa aceitar o que a coluna de origem for.

Alterar a ordem das colunas

Para reordenar as colunas na tabela de dados de destino, selecione as colunas pretendidas. Pode utilizar:

Setas de movimento em massa: selecione a opção de movimento pretendida nas setas no canto superior direito
Menu de contexto: clique com o botão direito do rato e selecione Mover para o início, Mover para cima, Mover para baixo ou Mover para o fim.

Reduzir o resultado apenas a registos distintos

Para devolver apenas opções distintas, selecione a opção de menu Distinto. Isto apresenta um conjunto de caixas de verificação para cada coluna da origem. Basta marcar a caixa junto da coluna correspondente para devolver apenas resultados distintos.

Consoante a situação, pode ser preferível considerar a utilização da sumarização.

O processo de distinção mantém o primeiro registo único encontrado e descarta os restantes. Pode querer aplicar uma ordenação aos dados, se for importante para a consistência entre execuções.

Agregação e agrupamento

Para agregar resultados, selecione a opção de menu Resumir. Isto apresenta um conjunto de caixas de seleção para cada coluna da tabela de dados de destino. Escolha um método de sumarização adequado para cada coluna.

Quando Inspecionar origem preenche as colunas, uma coluna numérica começa como Agrupar por em vez de Soma se o nome se assemelhar a um identificador, como id, customer_id, Order No ou CustomerKey, se a respetiva tabela a definir como chave ou se a junção a utilizar como chave.

Agrupar por
Soma
Mínimo
Máximo
Primeiro
Último
Contagem
Contagem (incluindo nulos)
Média
Desvio padrão
Desvio padrão da amostra
Desvio padrão da população
Variância
Variância da amostra
Variância da população
Avançado sem agrupar por

Para uma utilização avançada do Data Mapper, como expressões, limpeza e constantes, consulte Utilização avançada do Data Mapper

Table Data Filters

Para permitir a máxima flexibilidade, existem filtros de dados disponíveis nos dados de origem e nos dados de destino. Em conjuntos de dados maiores, pode ser especialmente vantajoso filtrar linhas na origem, para que as restantes operações sejam executadas sobre um conjunto de dados mais pequeno.

Selecionar subconjunto de dados

Este tipo de filtro permite filtrar os dados de origem recebidos com base nas condições especificadas.

Aplicar filtro secundário aos dados de resultado

Este tipo de filtro permite aplicar um filtro aos dados de resultado depois de transformados, com base nas condições especificadas. A possibilidade de aplicar um filtro ao resultado transformado permite exclusões com base nos resultados de cálculos complexos, sumarizações ou funções de janela.

Divisão final da tabela de dados (limite)

A capacidade de divisão de linhas permite limitar as linhas do conjunto de resultados com base num intervalo e num ponto de partida.

Sintaxe de filtros

A sintaxe de filtros utiliza o Python SQLAlchemy, que é a mesma sintaxe das outras expressões.

Consulte exemplos e funções de expressão na área Expressões.