コンテンツにスキップ

データに保護対象医療情報、個人データ、営業秘密、または処理場所を指定する契約の対象となる情報が含まれる場合、重要な問いはどのモデルが最も賢いかではありません。誰のインフラストラクチャがプロンプトを見るかです。

PlaidCloudはモデルを入れ替え可能なコンポーネントとして扱うため、この問いにご自身で答えることができます。

3つのデプロイの選択肢の比較。ベンダーAPI、ご自身のサブスクリプション内のAzure OpenAIなどのプライベートクラウドのモデルリソース、セルフホストのモデル。3つとも、テナント内のガバナンスは同一です。モデルに届くものと決して届かないものを一覧にまとめています。
ベンダーAPI プライベートクラウドのモデル セルフホストのモデル
概要 Anthropic、OpenAI、Google、xAIのパブリックAPI ご自身のサブスクリプション内のAzure OpenAIリソース ご自身で運用するOpenAI互換のエンドポイント
プロンプトを見る主体 ベンダー(ベンダーの規約とご自身のアカウントに基づく) ご自身のクラウドテナンシー(ご自身の契約に基づく) ご自身のみ
リージョンと保持 ベンダーが決定 ご自身で設定 ご自身で設定
機能 最先端 最先端(パブリックAPIより一段階前) ホストできるもの次第
ご自身が運用するもの なし クラウドリソース サーバーとGPU
適した用途 機密性の低いデータの一般的な分析 すでにクラウド契約の対象となっている企業 PHI、機密指定、エアギャップ環境、契約上の制限があるデータ

3つとも、設定方法は同じです。プロバイダー、キー、モデルを指定したLLMプロバイダー接続を作成します。後ろの2つでは、ご自身のエンドポイントを指すベースURLも指定します。

管理されたモデルを使う価値がある理由

Section titled “管理されたモデルを使う価値がある理由”

プロンプトが露出の対象であり、プロンプトにはデータが含まれます。 グラウンディングされたアシスタントが役に立つのは、実際の行がモデルに届くからです。施設ごとの患者数、未公開の価格、メールで送りたくないコスト構造などです。アーキテクチャのそれ以外の部分、つまり権限、ツールの制御、有効期間の短いトークンは、ご自身のシステムから何が出ていくかを管理します。モデルを選ぶことは、それがどこに届くかを管理することです。

PlaidCloudを管理下にあるモデルに接続すると、次のようになります。

  • 取り繕うべきプロセッサーが1つ減ります。 推論がすでに対象となっている場所で行われるため、データ保護契約、BAA、ベンダーレビューに追加すべき第三者のサブプロセッサーはありません。
  • 証明できるデータレジデンシー。 「このリージョンで、このアカウントで、この契約のもとで処理された」ことを、信頼に頼るのではなく、証拠で示せます。
  • 保持とログを自社の条件で。 プロンプトを保持するかどうか、保持期間、ログを読めるユーザーをご自身で決められます。
  • ポリシー変更の影響を受けません。 ベンダーの規約は変わり得ますが、ご自身が運用するインフラストラクチャは、知らないうちに変わることはありません。
  • エアギャップ環境でもアシスタントを使えます。 パブリックAPIに到達できないネットワークでは、セルフホストのモデルが唯一の選択肢です。

答えは一般に思われているより限定的なので、正確に説明します。

プロバイダーに送信されるもの:

  • プロンプトと、接続の標準ルール
  • エージェントに伝えられたオブジェクトの名前と形状(テーブル名や列名、ディメンション名、バインドされたドキュメントのパス)
  • モデルが行ったツール呼び出しの結果。つまり、モデルが要求し、受け取りを許可された行です
  • 現在のチャットの会話の流れ

決して送信されないもの:

  • 接続の認証情報、保存されたシークレット、解決済みの認可ヘッダー
  • 質問したユーザーの権限の範囲外にあるすべてのもの
  • モデルが要求していないテーブル全体
  • 他のテナントのデータ

また、お客様のコンテンツが、誰かのモデルの学習に使われることはありません。

どの利用方法でモデルを管理できるか

Section titled “どの利用方法でモデルを管理できるか”

この点は一様ではないため、2回読む価値があります。

利用方法 動作するモデルの提供元
LLMワークフローステップ ご自身のもの。 ステップは、固定したLLMプロバイダー接続、またはワークスペースのデフォルトを使用します。
アプリ内AIアシスタント ご自身のもの。 ワークスペースのデフォルトのLLMプロバイダー接続を使用します。一部のアシスタント機能の背後にあるマルチエージェントバックエンドはデプロイごとに設定され、セルフホストのモデルを指すこともできます。その場合はPlaidCloudにご相談ください。
AIコーディングエージェント 各ベンダーのもの。 Claude CodeはAnthropicを、ChatGPTはOpenAIを使用します。PlaidCloudはデータソースであり、モデルのホストではありません。
Microsoft 365 Copilot Microsoftのもの。 Copilotは、ご自身のMicrosoft契約のもと、M365テナント内でMicrosoftのモデルを使って動作します。
  1. エンドポイントを用意します。 ご自身のサブスクリプションにAzure OpenAIリソースとデプロイを作成するか、OpenAI互換のAPIの背後でモデルを実行します。

  2. 解決可能なパブリックホスト名で、HTTPS経由で到達できるようにします。 送信呼び出しは、実行前に検証されます。ベースURLはHTTPSである必要があり、ループバック、プライベート範囲、リンクローカル、クラウドメタデータのアドレスは拒否され、リダイレクトは無効化されます。セルフホストのモデルの前には、実在のホスト名を持つTLSゲートウェイを置き、ネットワーク層で到達できるユーザーを制限してください。

  3. 接続を登録します。 プロバイダーを選択し、キーを貼り付け、ベースURLとモデルを設定します。Azure OpenAIでは、モデルのフィールドにデプロイ名を入力します。

  4. 特定のジョブでさらに必要でない限り、エージェントアクセスは読み取り専用のままにします。 これは最もコストのかからない制御手段です。

  5. ルールを追加します。 標準の指示は、社内の規約を指定する適切な場所です。識別子の扱い方、回答に決して含めないもの、常に記載する注意事項などを指定します。

  6. ワークスペースのデフォルトにするか、規制対象のデータを扱う特定のワークフローステップに固定します。

機密性がワークスペース全体で一様であることはまれで、モデルは接続ごとに選択されるため、ジョブごとに選択できます。よくある構成は次のとおりです。

  • ワークスペースのデフォルトとして最先端のベンダーモデルを使用し、スキーマに関する質問、ドキュメントのヘルプ、式の作成、機密性の低いデータの分析に使います
  • 規制対象のテーブルを扱うワークフローステップに管理されたモデルを固定します

同じプラットフォーム、同じ権限、同じ監査証跡のまま、データに合わせて影響範囲を2種類に分けられます。