Model Library Reference Manual ============================== \**モデルライブラリー\* は、 EDB Postgres AI内のAIモデルイメージのセントラルガバナンスシステムとして機能し、モデルのライフサイクルの組織的な制御を提供しながら、パイプライン、モデルサービング、ナレッジベース、Gen AI Builder全体の統合を可能にします。 **前提条件** モデルライブラリーには、 :ref:`Hybrid Manager Asset Library ` のインストールが必要です。すべてのモデルのメタデータ、バージョニング、およびライフサイクル操作は、アセットライブラリーインフラストラクチャを介して管理されます。 目的と機能 ---------- AIを大規模に実装する組織は、モデル管理に関する基本的な課題に直面しています。断片化したリポジトリ、バージョンの不一致、コンプライアンスギャップ、運用の可視性の制限。モデルライブラリーは、開発速度を犠牲にすることなく制御を維持する集中ガバナンスを介してこれらの課題に対処します。 このシステムは、外部モデルソースと内部AI機能間の厳選されたゲートウェイとして動作し、検証されたモデルのみが運用環境に到達することを保証しながら、コンプライアンス要件の包括的な監査証跡を提供します。 コアアーキテクチャ ------------------ レジストリ統合レイヤー ^^^^^^^^^^^^^^^^^^^^^^ モデルライブラリーは、構成可能な同期ルールを介して外部コンテナレジストリに接続します。このレイヤーは、セキュリティ境界を維持しながら、組織の基準に基づいてモデルイメージを自動的に検出、検証、および取り込みます。 **サポートされているレジストリタイプ** - Harbor プライベートコンテナレジストリ - Amazon Elastic Container Registry ECR - Azure Container RegistryACR - Google Container Registry GCR - カスタムレジストリ実装 ガバナンスフレームワーク ^^^^^^^^^^^^^^^^^^^^^^^^ ビルトインの承認ワークフローは、運用が可能になる前に組織のポリシーに対してモデルを検証します。このフレームワークは、標準コンプライアンス要件の自動検証を維持しながら、複雑なマルチステークホルダーの承認プロセスをサポートします。 **ポリシー適用ポイント** - セキュリティスキャンと脆弱性評価 - 組織基準に対するパフォーマンスベンチマーク - 規制要件のコンプライアンス検証 - モデルの来歴のデジタル署名検証 ディストリビューションハブ ^^^^^^^^^^^^^^^^^^^^^^^^^^ 承認されたモデルは、標準化されたインターフェイスを介してすべてのEDB PG AI機能で利用できるようになります。これにより、環境固有の構成をサポートしながら、開発、ステージング、および実稼働環境全体で一貫したモデルバージョンが保証されます。 運用ワークフロー ---------------- モデル登録プロセス ^^^^^^^^^^^^^^^^^^ **自動検出** リポジトリルールは、新しいモデルバージョンを監視する外部ソースを定義します。システムは、構成されたレジストリを継続的にスキャンし、定義された基準と一致するモデルを自動的に取り込み、ポリシーコンプライアンスを保証しながら手動オーバーヘッドを削減します。 **検証パイプライン** 新しく取り込まれたモデルは、セキュリティスキャン、メタデータ抽出、パフォーマンス検証を含む自動検証を受けます。検証チェックに失敗したモデルは、問題が解決されるか、オーバーライド手順を介して明示的に承認されるまで、隔離されます。 **承認ルーティング** 検証されたモデルは、分類とリスク評価に基づいて承認ワークフローに入ります。システムは、モデルを適切な関係者にルーティングしながら、事前定義された基準を満たすモデルの自動承認を提供します。 ライフサイクル管理 ^^^^^^^^^^^^^^^^^^ **バージョン制御** システムは、登録されたすべてのモデルの不変のバージョン履歴を維持し、セマンティックバージョンスキームと下位互換性検証をサポートします。バージョン追跡により、複雑なモデルエコシステム全体でのロールバック機能と依存関係管理が可能になります。 **プロモーションパイプライン** モデルは、検証チェックポイントと承認ゲートに基づいて、環境層開発→ステージング→運用を介して進行します。自動プロモーションにより、品質管理を維持しながら展開の手間が削減されます。 **非推奨の処理** 構成可能なリテンションポリシーは、モデルのライフサイクルの移行を管理し、非推奨になる前に事前通知を提供し、アクティブな展開を中断せずに安全なリタイアを保証します。 統合ポイント ------------ モデルサービスプラットフォーム ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ モデルライブラリーは、 :ref:`Model Serving Reference Manual ` 展開用の厳選されたカタログを提供します。ガバナンスフレームワークを介して承認されたモデルのみがプロダクション推論エンドポイントに展開でき、一貫したセキュリティとコンプライアンス標準を保証します。 **統合のメリット** - 検証チェックポイントを使用した自動モデルの更新 - 問題のある展開のロールバック機能 - リソース割り当てのパフォーマンスメタデータの最適化 - シームレスなKServeインフラストラクチャの統合 AIアクセラレーターパイプライン ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ パイプラインの実行は、ライブラリの検証済みモデルを活用し、 :ref:`AI Accelerator Pipelines ` ステージと環境全体での一貫性を保証します。システムは、パイプラインリソースの割り当てと実行戦略を最適化するパフォーマンス特性を提供します。 Gen AI Builder ^^^^^^^^^^^^^^ :ref:`Gen AI Builder ` アプリケーションは、ライブラリインターフェイスを介して管理モデルコレクションにアクセスします。これにより、ナレッジベース実装は検証された埋め込みモデルを使用し、アシスタント作成は承認された言語モデルを参照します。 セキュリティとアクセス制御 -------------------------- マルチテナントアーキテクチャ ^^^^^^^^^^^^^^^^^^^^^^^^^^^^ ロールベースのアクセス制御は、組織階層と連携しながら、さまざまなチームやプロジェクトに名前空間の分離を提供します。詳細な権限は、ユーザーロールと組織ポリシーに基づいて、モデルの登録、承認、および展開アクティビティを制御します。 セキュリティ検証 ^^^^^^^^^^^^^^^^ 自動脆弱性スキャンは、登録されているすべてのモデルイメージを調べて、既知のセキュリティ問題がないかを調べます。システムは、登録時にモデルの署名と来歴情報を検証し、リスクのある展開を防ぐポリシーベースの制御を実装します。 **セキュリティ機能** - モデルの信頼性のデジタル署名検証 - 脅威検出のための脆弱性データベースの統合 - 自動セキュリティ制御適用のためのポリシーエンジン - セキュリティモニタリングのための包括的な監査ログ 実装の考慮事項 -------------- レジストリ構成 ^^^^^^^^^^^^^^ レジストリ接続を確立するには、ネットワークトポロジ、認証メカニズム、および同期頻度を注意深く検討する必要があります。組織は、リポジトリルールを構成するときに、自動化のメリットとセキュリティ要件のバランスを保つ必要があります。 **重要な要素** - ネットワーク接続とファイアウォールの要件 - 認証および承認メカニズム - 同期頻度とリソースへの影響 - エラー処理と再試行戦略 :ref:`How-To Integrate Private Registry with Model Library ` 承認ワークフローのデザイン ^^^^^^^^^^^^^^^^^^^^^^^^^^ 承認プロセスでは、ガバナンス要件と開発速度のバランスを保つ必要があります。組織は、高リスクモデルの適切な監督を保証しながら、日常的な承認を自動化するワークフローをデザインする必要があります。 **デザイン原則** - 効率的なステークホルダーの参加のためのリスクベースのルーティング - 標準基準を満たすモデルの自動承認 - 複雑な承認シナリオの明確なエスカレーションパス - コンプライアンス要件の包括的な監査証跡 :ref:`How-To Define Repository Rules for Model Library ` メタデータ管理 ^^^^^^^^^^^^^^ 包括的なメタデータのキャプチャは、検出、ガバナンス、および運用要件をサポートします。組織は、ビジネス要件に合わせた一貫したタグ付けスキームとドキュメント標準を確立する必要があります。 :ref:`How-To Manage Repository and Image Tag Metadata ` 操作パターン ------------ エンタープライズガバナンス ^^^^^^^^^^^^^^^^^^^^^^^^^^ 大規模な組織は、Model Libraryの洗練された承認ワークフローと包括的な監査機能のメリットを活用します。このシステムは、インテリジェントな自動化を通じて開発速度を維持しながら、複雑なマルチステークホルダーのプロセスをサポートします。 **一般的な実装** 1. 開発チームはステージング環境にモデルを登録します 2. 自動検証はセキュリティとコンプライアンス要件を検証します 3. リスクベースのルーティングは、モデルを適切な承認関係者に転送します 4. 承認されたモデルは、すべてのEDB PG AI機能に伝播されます 5. 運用展開は、検証されたバージョンを自動的に参照します ソブリンAIの展開 ^^^^^^^^^^^^^^^^ 完全なモデルの主権を必要とする組織は、プライベートレジストリの統合とエアギャップ展開機能を活用します。このパターンにより、エンタープライズ運用機能を維持しながら、機密モデルが組織の境界を離れることはありません。 **主な特徴** - オフライン配布による完全なエアギャップのサポート - メタデータを保持するプライベートレジストリの統合 - 規制要件の自動コンプライアンスレポート - 機密モデルの処理手順と制御 開発の一貫性 ^^^^^^^^^^^^ チームは、開発ライフサイクル全体で一貫したモデルの可用性の恩恵を受けます。モデルライブラリーは、環境間のバージョンのドリフトを排除しながら、環境固有の構成と展開戦略をサポートします。 制限と考慮事項 -------------- パフォーマンスへの影響 ^^^^^^^^^^^^^^^^^^^^^^ レジストリの同期とモデル検証のプロセスは、計算リソースを消費します。組織は、同期頻度と検証の深さを構成するときに、インフラストラクチャの容量を考慮する必要があります。 ネットワークの依存関係 ^^^^^^^^^^^^^^^^^^^^^^ システムでは、同期操作のために外部レジストリへの信頼できるネットワーク接続が必要です。ネットワーク障害または接続の問題は、モデルの可用性と同期スケジュールに影響を与える可能性があります。 ストレージ要件 ^^^^^^^^^^^^^^ モデルイメージのストレージは、組織モデルインベントリに合わせて拡張されます。広範なモデルカタログを持つ大規模な組織は、重要なストレージ要件と関連するバックアップ戦略を計画する必要があります。 はじめに -------- 初期セットアップ ^^^^^^^^^^^^^^^^ 1. ハイブリッドマネージャーのインストールと構成の確認 2. 必要な外部レジストリへのネットワーク接続を確立する 3. モデル検出の初期リポジトリルールの構成 4. 組織の要件に合わせた基本的な承認ワークフローを実装する 構成リソース ^^^^^^^^^^^^ - :ref:`How-To Integrate Private Registry with Model Library ` - :ref:`How-To Define Repository Rules for Model Library ` - :ref:`How-To Manage Repository and Image Tag Metadata ` ベストプラクティス ^^^^^^^^^^^^^^^^^^ - すべてのモデル操作に最小特権のアクセス制御を実装する - 登録済みモデルの定期的なセキュリティスキャンスケジュールを確立する - 包括的なバックアップとディザスターリカバリー手順を維持する - 承認ワークフローとエスカレーション手順を明確に文書化する リファレンスドキュメント ------------------------ **コアコンポーネント** - :ref:`Hybrid Manager Asset Library ` - :ref:`Gen AI Architecture (Entities and Flows) ` **統合機能** - :ref:`Model Serving Reference Manual ` - :ref:`AI Accelerator Pipelines ` - :ref:`Gen AI Builder ` **実装ガイド** - :ref:`Model Library Reference Manual ` - :ref:`How-To Define Repository Rules for Model Library ` -------------- モデルライブラリーは、断片的なモデル管理を、組織のAIイニシアチブに合わせて拡張する体系的なガバナンスに変換し、すべてのEDB Postgres AI機能にわたってセキュリティ、コンプライアンス、およびオペレーショナルエクセレンスを維持します。