自社管理のLLMを使用する
データに保護対象医療情報、個人データ、営業秘密、または処理場所を指定する契約の対象となる情報が含まれる場合、重要な問いはどのモデルが最も賢いかではありません。誰のインフラストラクチャがプロンプトを見るかです。
PlaidCloudはモデルを入れ替え可能なコンポーネントとして扱うため、この問いにご自身で答えることができます。
3つの選択肢
Section titled “3つの選択肢”| ベンダーAPI | プライベートクラウドのモデル | セルフホストのモデル | |
|---|---|---|---|
| 概要 | Anthropic、OpenAI、Google、xAIのパブリックAPI | ご自身のサブスクリプション内のAzure OpenAIリソース | ご自身で運用するOpenAI互換のエンドポイント |
| プロンプトを見る主体 | ベンダー(ベンダーの規約とご自身のアカウントに基づく) | ご自身のクラウドテナンシー(ご自身の契約に基づく) | ご自身のみ |
| リージョンと保持 | ベンダーが決定 | ご自身で設定 | ご自身で設定 |
| 機能 | 最先端 | 最先端(パブリックAPIより一段階前) | ホストできるもの次第 |
| ご自身が運用するもの | なし | クラウドリソース | サーバーとGPU |
| 適した用途 | 機密性の低いデータの一般的な分析 | すでにクラウド契約の対象となっている企業 | PHI、機密指定、エアギャップ環境、契約上の制限があるデータ |
3つとも、設定方法は同じです。プロバイダー、キー、モデルを指定したLLMプロバイダー接続を作成します。後ろの2つでは、ご自身のエンドポイントを指すベースURLも指定します。
管理されたモデルを使う価値がある理由
Section titled “管理されたモデルを使う価値がある理由”プロンプトが露出の対象であり、プロンプトにはデータが含まれます。 グラウンディングされたアシスタントが役に立つのは、実際の行がモデルに届くからです。施設ごとの患者数、未公開の価格、メールで送りたくないコスト構造などです。アーキテクチャのそれ以外の部分、つまり権限、ツールの制御、有効期間の短いトークンは、ご自身のシステムから何が出ていくかを管理します。モデルを選ぶことは、それがどこに届くかを管理することです。
PlaidCloudを管理下にあるモデルに接続すると、次のようになります。
- 取り繕うべきプロセッサーが1つ減ります。 推論がすでに対象となっている場所で行われるため、データ保護契約、BAA、ベンダーレビューに追加すべき第三者のサブプロセッサーはありません。
- 証明できるデータレジデンシー。 「このリージョンで、このアカウントで、この契約のもとで処理された」ことを、信頼に頼るのではなく、証拠で示せます。
- 保持とログを自社の条件で。 プロンプトを保持するかどうか、保持期間、ログを読めるユーザーをご自身で決められます。
- ポリシー変更の影響を受けません。 ベンダーの規約は変わり得ますが、ご自身が運用するインフラストラクチャは、知らないうちに変わることはありません。
- エアギャップ環境でもアシスタントを使えます。 パブリックAPIに到達できないネットワークでは、セルフホストのモデルが唯一の選択肢です。
実際にモデルに届くもの
Section titled “実際にモデルに届くもの”答えは一般に思われているより限定的なので、正確に説明します。
プロバイダーに送信されるもの:
- プロンプトと、接続の標準ルール
- エージェントに伝えられたオブジェクトの名前と形状(テーブル名や列名、ディメンション名、バインドされたドキュメントのパス)
- モデルが行ったツール呼び出しの結果。つまり、モデルが要求し、受け取りを許可された行です
- 現在のチャットの会話の流れ
決して送信されないもの:
- 接続の認証情報、保存されたシークレット、解決済みの認可ヘッダー
- 質問したユーザーの権限の範囲外にあるすべてのもの
- モデルが要求していないテーブル全体
- 他のテナントのデータ
また、お客様のコンテンツが、誰かのモデルの学習に使われることはありません。
どの利用方法でモデルを管理できるか
Section titled “どの利用方法でモデルを管理できるか”この点は一様ではないため、2回読む価値があります。
| 利用方法 | 動作するモデルの提供元 |
|---|---|
| LLMワークフローステップ | ご自身のもの。 ステップは、固定したLLMプロバイダー接続、またはワークスペースのデフォルトを使用します。 |
| アプリ内AIアシスタント | ご自身のもの。 ワークスペースのデフォルトのLLMプロバイダー接続を使用します。一部のアシスタント機能の背後にあるマルチエージェントバックエンドはデプロイごとに設定され、セルフホストのモデルを指すこともできます。その場合はPlaidCloudにご相談ください。 |
| AIコーディングエージェント | 各ベンダーのもの。 Claude CodeはAnthropicを、ChatGPTはOpenAIを使用します。PlaidCloudはデータソースであり、モデルのホストではありません。 |
| Microsoft 365 Copilot | Microsoftのもの。 Copilotは、ご自身のMicrosoft契約のもと、M365テナント内でMicrosoftのモデルを使って動作します。 |
-
エンドポイントを用意します。 ご自身のサブスクリプションにAzure OpenAIリソースとデプロイを作成するか、OpenAI互換のAPIの背後でモデルを実行します。
-
解決可能なパブリックホスト名で、HTTPS経由で到達できるようにします。 送信呼び出しは、実行前に検証されます。ベースURLはHTTPSである必要があり、ループバック、プライベート範囲、リンクローカル、クラウドメタデータのアドレスは拒否され、リダイレクトは無効化されます。セルフホストのモデルの前には、実在のホスト名を持つTLSゲートウェイを置き、ネットワーク層で到達できるユーザーを制限してください。
-
接続を登録します。 プロバイダーを選択し、キーを貼り付け、ベースURLとモデルを設定します。Azure OpenAIでは、モデルのフィールドにデプロイ名を入力します。
-
特定のジョブでさらに必要でない限り、エージェントアクセスは読み取り専用のままにします。 これは最もコストのかからない制御手段です。
-
ルールを追加します。 標準の指示は、社内の規約を指定する適切な場所です。識別子の扱い方、回答に決して含めないもの、常に記載する注意事項などを指定します。
-
ワークスペースのデフォルトにするか、規制対象のデータを扱う特定のワークフローステップに固定します。
現実的な折衷案
Section titled “現実的な折衷案”機密性がワークスペース全体で一様であることはまれで、モデルは接続ごとに選択されるため、ジョブごとに選択できます。よくある構成は次のとおりです。
- ワークスペースのデフォルトとして最先端のベンダーモデルを使用し、スキーマに関する質問、ドキュメントのヘルプ、式の作成、機密性の低いデータの分析に使います
- 規制対象のテーブルを扱うワークフローステップに管理されたモデルを固定します
同じプラットフォーム、同じ権限、同じ監査証跡のまま、データに合わせて影響範囲を2種類に分けられます。
- LLMプロバイダーと接続:フィールドとアダプター
- AIとLLMのアーキテクチャ:すべての利用方法が共有するガバナンス下の経路
- 検索拡張、グラウンディング、分析パス:データが事前にインデックス化されない理由