このページの内容
中核プリミティブ
PromptOps
PromptOps は、プロンプトをプロダクションの成果物として扱う規律 — バージョニング、可観測性、ガバナンス、制御されたロールアウト。コードやインフラに既に適用しているのと同じエンジニアリングの厳格さをプロンプトに適用します。
PromptOps を実践するチームは、プロダクションの任意のプロンプトについて 4 つの質問に答えられます — どのバージョンが稼働中か、誰が承認したか、コストはいくらか、どうロールバックするか。
→ ブログの詳しい解説 · PromptOps プロダクトページ
AI Gateway
AI Gateway は、サービスが LLM を呼ぶために使う単一の REST インターフェイス。OpenAI 互換 — ほとんどのクライアントはベース URL の変更で切り替え可能 — で、1 つの API キーで OpenAI、Anthropic、Google、Groq、OSS プロバイダーへリクエストをルーティング。
内部では認証、利用のログ、予算の適用、監査イベントの発信を行う。呼び出し側のサービスには、LLM API に見える。
Control Plane
Control Plane は、Gateway の挙動を管理する一連の管理機能 — テナント分離、ロールベースアクセス、テナント毎の予算とレートリミット、キルスイッチ、フィーチャーフラグ。運用、財務、ガバナンスチームがコードに触れずにプラットフォームを構成する場所。
データとガバナンス
Vault
Vault は、raw プロンプトとモデル出力用の暗号化ストア。運用メタデータ (Usage Ledger) から分離 — コンテンツはアプリケーション層暗号化付きでオブジェクトストレージに、メタデータは高速クエリのために PostgreSQL に。
Vault の保持はデータクラス毎に構成可能。直接読み取りアクセスはデフォルトで拒否。アクセスは文書化された理由を必要とし、ログされ、監査を経る。
テナント分離
テナント分離とは、あるテナント (組織、ワークスペース) のデータと構成が別のテナントから見えないこと。すべてのクエリが service_id + tenant_id + user_id を含む。クロステナントアクセスは明示的に付与されない限り拒否。行レベルセキュリティは、アプリケーション層の所有権チェックの上の二次防御。
同意
SchneeAI のデータモデルでは、同意はファーストクラスのレコード — 誰が、何の目的に、いつ同意し、撤回したか。同意は、インタラクションが即時のサービス以上の用途に適格となるかを制御 — 最も重要には、トレーニングデータセットに入れることができるか。
同意は一回限りのチェックボックスではない。取り消しできる状態で、取り消しは下流の利用に伝播。
PII / 機密コンテンツ
個人識別情報およびその他の機密コンテンツ (API 鍵、接続文字列、JWT、PEM ブロック) は、コンテンツが保存または上流に送信される前にスキャン。SchneeAI は 17 カテゴリを検出し、それぞれに重大度:
- Critical: API 鍵、シークレット、秘密鍵、接続文字列 → デフォルトで block
- Warning: メール、電話、政府 ID → mask または flag
- Info: IP、低シグナル識別子 → 補助コンテキスト
各カテゴリは構成可能なポリシーを持つ — flag、mask、または block。
運用
カナリアロールアウト
カナリアロールアウトは、新しいプロンプトバージョン (またはモデル、構成) をまず小さな割合のトラフィックに ship し、指標を見て、100% に昇格するか自動ロールバックする。デプロイ実践から来るパターン。SchneeAI はシステムの中で最も頻繁に変わる部分に適用。
キルスイッチ
キルスイッチは、モデル、フィーチャー、またはテナントへのトラフィックを数秒で止めるプラットフォームレベルのコントロール。「3 時に何かがおかしく、何が起きているかまだ分からないとき、どうするか」への答え。運用・セキュリティロールが持つ。開発者は持たない。
クレジット台帳
クレジット台帳は、クレジットの予約・決済・解放・調整の追記専用 (append-only) レコード。各 AI インタラクションは呼び出し前にクレジットを予約、上流が実際の利用を返した後に決済、呼び出し失敗時に差分を解放。台帳は財務の真実のソース — 調整は新しい行であって、その場更新ではない。
基本の先
Dataset Builder
Dataset Builder は、Vault コンテンツからトレーニングデータセットを編纂 — ただし 3 つのゲートが通過した後にのみ — 同意 (インタラクションが適格)、マスキング (PII とシークレットが削除)、レビュー (人がサインオフ)。出力データセットは来歴を携える — 各アイテムはソースインタラクションに追跡可能。
これがランタイム AI 運用とモデル改善の橋渡し。
Model Router
Model Router は、どの上流モデルが与えられたリクエストを処理するかを決定。明示的 (model: "anthropic:claude") またはポリシー駆動 (auto、cheapest、lowest-latency)。ルーティングはサービス毎、フィーチャー毎、テナント毎に構成可能。
Service Registry
Service Registry は、Gateway の呼び出しを許可されたサービスの棚卸。各サービスは資格情報、オーナー、フィーチャーセット、エンタイトルメントプロファイルを持つ。Gateway はレジストリにないサービスからの呼び出しを拒否。
抜けているものは?
この用語集は、最も誤解されやすい用語に焦点を当てています。期待する用語がない場合は、メールでお知らせください。追加します。