Utilizar o seu próprio LLM controlado

Se os seus dados incluem informações de saúde protegidas, dados pessoais, segredos comerciais ou qualquer coisa abrangida por um contrato que indique onde podem ser tratados, a questão relevante não é qual é o modelo mais inteligente. É a infraestrutura de quem vê o prompt.

O PlaidCloud trata o modelo como um componente substituível, para que possa responder a essa questão por si.

As três opções

	API de fornecedor	Modelo em cloud privada	Modelo alojado por si
O que é	A API pública da Anthropic, OpenAI, Google ou xAI	Um recurso Azure OpenAI na sua própria subscrição	Qualquer endpoint compatível com OpenAI que execute
Quem vê o prompt	O fornecedor, ao abrigo dos seus termos e da sua conta	O seu inquilino de cloud, ao abrigo do seu contrato	Apenas o utilizador
Região e retenção	As do fornecedor	Definidas por si	Definidas por si
Capacidade	De vanguarda	De vanguarda, um passo atrás da API pública	O que conseguir alojar
O que opera	Nada	Um recurso de cloud	Servidores e GPU
Adequado para	Análises gerais sobre dados não sensíveis	Empresas já abrangidas por um contrato de cloud	PHI, dados classificados, isolados da rede ou contratualmente confinados

As três são configuradas da mesma forma: uma ligação de Fornecedor de LLM com um fornecedor, uma chave, um modelo e — nas duas últimas — um URL base que aponta para o seu endpoint.

Porque vale a pena um modelo controlado

O prompt é a exposição, e o prompt contém os seus dados. Um assistente fundamentado é útil precisamente porque linhas reais chegam ao modelo: contagens de doentes por unidade, preços ainda não divulgados, uma estrutura de custos que não enviaria por email. Tudo o resto na arquitetura — permissões, controlo de ferramentas, tokens de curta duração — rege o que sai dos seus sistemas. Escolher o modelo rege onde chega.

Apontar o PlaidCloud para um modelo que controla significa:

• Menos um subcontratante a regularizar. Nenhum subcontratante externo a acrescentar a um acordo de proteção de dados, a um BAA ou a uma análise de fornecedores — porque a inferência ocorre num local já abrangido.
• Residência de dados que pode provar. “Tratado nesta região, nesta conta, ao abrigo deste contrato” é uma afirmação que pode comprovar, não uma que tenha de aceitar por confiança.
• Retenção e registo nos seus termos. É o utilizador quem decide se os prompts são retidos, durante quanto tempo e quem pode ler os registos.
• Sobrevive a uma alteração de política. Os termos de um fornecedor podem mudar; a infraestrutura que opera não muda sem que o saiba.
• Os ambientes isolados da rede passam a ter assistente. Para redes que não conseguem aceder a uma API pública, um modelo alojado por si é a única opção que existe.

Cuidado

O PlaidCloud fornece os controlos; não pode fazer por si uma determinação de conformidade. Saber se uma dada configuração satisfaz o HIPAA, o RGPD, um BAA ou um contrato com um cliente é uma decisão para as suas próprias equipas de privacidade, segurança e jurídica. Leve-lhes a arquitetura desta página — foi escrita para ser revista.

O que chega realmente ao modelo

Vale a pena ser rigoroso, porque a resposta é mais restrita do que as pessoas assumem.

Enviado ao fornecedor:

• o seu prompt e as regras permanentes da ligação
• os nomes e as formas dos objetos de que o agente foi informado — nomes de tabelas e colunas, nomes de dimensões, caminhos de documentos associados
• os resultados das chamadas a ferramentas feitas pelo modelo, ou seja, as linhas que pediu e que tinha permissão para receber
• a conversa em curso do chat atual

Nunca enviado:

• credenciais de ligação, segredos guardados ou cabeçalhos de autorização resolvidos
• qualquer coisa fora das permissões da pessoa que pergunta
• tabelas inteiras que o modelo não pediu
• dados de outro inquilino

E o seu conteúdo não é utilizado para treinar o modelo de ninguém.

Em que superfícies controla o modelo

Esta é a parte que vale a pena ler duas vezes, porque não é uniforme.

Superfície	De quem é o modelo executado
Passo LLM do fluxo de trabalho	O seu. O passo utiliza a ligação de Fornecedor de LLM que fixar ou a predefinida da área de trabalho.
Assistente de IA integrado	O seu, através da ligação de Fornecedor de LLM predefinida da área de trabalho. O backend multiagente por trás de algumas funcionalidades do assistente é definido por implementação e pode ser apontado para um modelo alojado por si — combine-o com o PlaidCloud.
Agentes de programação com IA	Deles. O Claude Code utiliza a Anthropic; o ChatGPT utiliza a OpenAI. O PlaidCloud é a fonte de dados, não o anfitrião do modelo.
Microsoft 365 Copilot	Da Microsoft. O Copilot executa-se em modelos da Microsoft dentro do seu inquilino M365, ao abrigo do seu contrato com a Microsoft.

Cuidado

Se os dados regulamentados não devem chegar a um determinado fornecedor, restringir o modelo não basta — tem de governar também as superfícies. No Copilot e nos agentes de programação, o PlaidCloud não escolhe o modelo; quem o escolhe é o cliente. Controle essas superfícies pelas alavancas que se aplicam: se o agente do Copilot é sequer publicado, a quem é concedido um nível de acesso, se a via do Copilot está ativada e a que projetos e tabelas chegam as permissões de uma pessoa.

Configuração

1. Disponibilize o endpoint. Crie o recurso e a implementação Azure OpenAI na sua subscrição ou execute o seu modelo por trás de uma API compatível com OpenAI.

2. Torne-o acessível por HTTPS num nome de anfitrião público resolúvel. As chamadas de saída são validadas antes de serem feitas: o URL base tem de ser HTTPS, e um endereço de loopback, de intervalo privado, de ligação local ou de metadados da cloud é recusado, com os redirecionamentos desativados. Coloque um modelo alojado por si atrás de um gateway TLS num nome de anfitrião real e restrinja quem lhe pode aceder ao nível da rede.

3. Registe a ligação. Escolha o fornecedor, cole a chave, defina o URL base e defina o modelo — no Azure OpenAI, o campo do modelo é o seu Nome da implementação.

4. Deixe o Acesso do agente em Apenas leitura, a menos que uma tarefa específica precise de mais. É o controlo mais económico de que dispõe.

5. Adicione as suas regras. As instruções permanentes são o local certo para as convenções da casa — como tratar identificadores, o que nunca incluir numa resposta, que ressalvas indicar sempre.

6. Torne-o a predefinição da área de trabalho ou fixe-o nos passos de fluxo de trabalho específicos que tratam dados regulamentados.

Um meio-termo razoável

A sensibilidade raramente é uniforme numa área de trabalho, e o modelo é escolhido por ligação — pelo que pode ser escolhido por tarefa. Uma disposição comum:

• um modelo de fornecedor de vanguarda como predefinição da área de trabalho, para perguntas sobre esquemas, ajuda com a documentação, criação de expressões e análise de dados não sensíveis
• um modelo controlado fixado nos passos de fluxo de trabalho que tocam em tabelas regulamentadas

A mesma plataforma, as mesmas permissões, o mesmo rasto de auditoria — dois raios de impacto distintos, adequados aos dados.

Relacionado

• Fornecedores e ligações de LLM — os campos e os adaptadores
• Arquitetura de IA e LLM — o caminho governado que todas as superfícies partilham
• Obtenção, fundamentação e caminhos de análise — porque é que os seus dados nunca são pré-indexados