Security and governance in AI Factory ===================================== AI Factoryは、明確なガードレールを備えたインフラストラクチャでGen AIおよびデータ駆動型アプリケーションを構築するのに役立ちます。このページでは、誰が何を担当するか、ガバナンスが適用される場所、およびコンポーネント全体に最小特権パターンを適用する方法について説明します。セキュリティとガバナンスが重要な理由 ------------------------------------ Gen AIシステムは、機密データに触れ、強力なモデルを呼び出し、アクションを実行する場合があります。適切なコントロールは、チームの生産性を維持しながらリスクを削減します。 - 保存および転送中の機密データを保護する - モデルの展開、取得ルールの変更、またはアシスタントの公開をできる人を制限する - コンプライアンスのための監査可能性と可観測性を提供する - アシスタントがツールまたは外部サービスを呼び出すときに最小特権を適用する :ref:`Sovereign AI Explained ` も参照してください。執行が行われる場所 ------------------ - ハイブリッドマネージャー推奨 AI Factoryは、ガバナンスと可観測性のためにハイブリッドマネージャーコントロールプレーンに統合されています。日常の操作にスポークを使用します。 - :ref:`AI Factory in Hybrid Manager ` - :ref:`Gen AI in Hybrid Manager ` - :ref:`Pipelines models reference ` - ハイブリッドマネージャーの外部選択したコンポーネント :ref:`Pipelines and data preparation ` または :ref:`Vector Engine (PGvector) ` などのコンポーネントをハイブリッドマネージャーの外部で実行すると、クラスターのライフサイクル、アクセス制御、およびオブザーバビリティを所有します。責任者は誰ですか ---------------- - プラットフォームチームクラスターアクセス、シークレット、およびネットワークポリシーを制御します。 :ref:`Model Serving Reference Manual ` のGPUをプロビジョニングします。 - データエンジニアソース、 :ref:`Knowledge Bases ` 、および埋め込みの鮮度を管理します。 - Application/Gen AIビルダー :ref:`Rulesets Manual ` 、 :ref:`Retrievers Reference Manual ` 、 :ref:`Tools Reference Manual ` 、および最小の権限を持つアシスタントを定義します。 AI Factoryにガバナンスを適用する方法 ------------------------------------ - 管理されたストアにデータを維持する - プラットフォームによって管理されるPostgresとオブジェクトストレージを使用します。標準のポリシーでアクセスを制御します。 - :ref:`Vector Engine (PGvector) ` を使用して、エンベディングをデータの近くに保ち、既存のデータベースコントロールを再利用します。 - 取得と動作のガバナンス - レトリバーとナレッジベースを使用して取得スコープと制限を表現します。 - ルールセットで許容可能な動作を強制します。外部呼び出しは、ツールを介して明示的に行う必要があります。 - セキュアモデルエンドポイント - 制御されたアクセスで :ref:`Model Serving Reference Manual ` を介してプライベートエンドポイントを公開します。 - 適切なサイズのGPUリソース。 :ref:`How-To Update GPU Resources for an InferenceService ` を参照してください。 - 観察と監査b_tran_3 ハイブリッドマネージャーでは、統合された可観測性を使用して、モデル提供、Gen AI実行、およびパイプラインをモニタします。 - ポリシーの必要性に応じて、スレッド、ログ、およびメトリックを監査アーティファクトとして扱います。前提条件 -------- - ハイブリッドマネージャー AI Factoryが有効になり、Gen AI、パイプライン、ベクトル検索、およびモデルサービングの資格を備えたプロジェクト。 :ref:`AI Factory spoke ` を参照してください。 - 外部ハイブリッドマネージャーエンタープライズシークレットストア、ネットワークポリシー、および監査ログが、実行するコンポーネントに設定されていることを確認します。ユースケース ------------ - 規制されたナレッジアシスタント管理されたナレッジベース、コンストレインされたレトリバー、およびルールセットを使用します。プライベートエンドポイントを介してモデルを実行します。 - PIIのドキュメントインテリジェンスコンテンツをPostgres/オブジェクトストレージに保持し、パイプラインを介して処理し、ツールを非破壊操作に制限します。 - 内部オートメーション明示的なスコープを持つツールの背後にあるゲート書き込みアクション。スレッドとログを定期的に確認します。関連トピック ------------ - :ref:`Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads) ` - :ref:`Sovereign AI Explained ` - :ref:`Gen AI Builder ` - :ref:`Pipelines and data preparation ` - :ref:`Vector Engine (PGvector) ` - :ref:`Model Serving Reference Manual `