Security and governance in AI Factory#
AI Factoryは、明確なガードレールを備えたインフラストラクチャでGen AIおよびデータ駆動型アプリケーションを構築するのに役立ちます。このページでは、誰が何を担当するか、ガバナンスが適用される場所、およびコンポーネント全体に最小特権パターンを適用する方法について説明します。
セキュリティとガバナンスが重要な理由#
Gen AIシステムは、機密データに触れ、強力なモデルを呼び出し、アクションを実行する場合があります。適切なコントロールは、チームの生産性を維持しながらリスクを削減します。
保存および転送中の機密データを保護する
モデルの展開、取得ルールの変更、またはアシスタントの公開をできる人を制限する
コンプライアンスのための監査可能性と可観測性を提供する
アシスタントがツールまたは外部サービスを呼び出すときに最小特権を適用する
Sovereign AI Explained も参照してください。
執行が行われる場所#
ハイブリッドマネージャー推奨 AI Factoryは、ガバナンスと可観測性のためにハイブリッドマネージャーコントロールプレーンに統合されています。日常の操作にスポークを使用します。
AI Factory in Hybrid Manager
Gen AI in Hybrid Manager
ハイブリッドマネージャーの外部選択したコンポーネント Pipelines and data preparation または Vector Engine (PGvector) などのコンポーネントをハイブリッドマネージャーの外部で実行すると、クラスターのライフサイクル、アクセス制御、およびオブザーバビリティを所有します。
責任者は誰ですか#
プラットフォームチーム クラスターアクセス、シークレット、およびネットワークポリシーを制御します。 Model Serving Reference Manual のGPUをプロビジョニングします。
データエンジニア ソース、 Knowledge Bases 、および埋め込みの鮮度を管理します。
Application/Gen AIビルダー Rulesets Manual 、 Retrievers Reference Manual 、 Tools Reference Manual 、および最小の権限を持つアシスタントを定義します。
AI Factoryにガバナンスを適用する方法#
管理されたストアにデータを維持する
プラットフォームによって管理されるPostgresとオブジェクトストレージを使用します。標準のポリシーでアクセスを制御します。
Vector Engine (PGvector) を使用して、エンベディングをデータの近くに保ち、既存のデータベースコントロールを再利用します。
取得と動作のガバナンス
レトリバーとナレッジベースを使用して取得スコープと制限を表現します。
ルールセットで許容可能な動作を強制します。外部呼び出しは、ツールを介して明示的に行う必要があります。
セキュアモデルエンドポイント
制御されたアクセスで Model Serving Reference Manual を介してプライベートエンドポイントを公開します。
適切なサイズのGPUリソース。 How-To Update GPU Resources for an InferenceService を参照してください。
観察と監査b_tran_3 ハイブリッドマネージャーでは、統合された可観測性を使用して、モデル提供、Gen AI実行、およびパイプラインをモニタします。
ポリシーの必要性に応じて、スレッド、ログ、およびメトリックを監査アーティファクトとして扱います。
前提条件#
ハイブリッドマネージャー AI Factoryが有効になり、Gen AI、パイプライン、ベクトル検索、およびモデルサービングの資格を備えたプロジェクト。 AI Factory spoke を参照してください。
外部ハイブリッドマネージャー エンタープライズシークレットストア、ネットワークポリシー、および監査ログが、実行するコンポーネントに設定されていることを確認します。
ユースケース#
規制されたナレッジアシスタント 管理されたナレッジベース、コンストレインされたレトリバー、およびルールセットを使用します。プライベートエンドポイントを介してモデルを実行します。
PIIのドキュメントインテリジェンス コンテンツをPostgres/オブジェクトストレージに保持し、パイプラインを介して処理し、ツールを非破壊操作に制限します。
内部オートメーション 明示的なスコープを持つツールの背後にあるゲート書き込みアクション。スレッドとログを定期的に確認します。