Asset Library in Hybrid Manager#

ハイブリッドマネージャーの アセットライブラリー は、プロジェクト内のAI関連のアセットを管理するための中心的な場所を提供します。これは、以前の モデルライブラリー を置き換え、機能を拡張して以下を含みます。

  • Model Servingで使用されるAIモデル画像。

  • 追加のAIアーティファクトレトリバー、埋め込みインデックス、データセットの将来のサポート。

アセットライブラリーを使用して、次のことを行います。

  • NVIDIA NIMモデルを検出および管理します。

  • プライベートレジストリを統合および管理します。

  • モデル画像のメタデータとガバナンスを管理します。

  • プロジェクトスコープのモデルの展開とバージョン管理をサポートします。

Hybrid Managerアーキテクチャにどのように適合するか#

  • アセットライブラリーは、ハイブリッドマネージャーが提供する **イメージライブラリー* をオーバーレイします。

  • アセットライブラリーのすべてのモデル画像は、プロジェクトのイメージリポジトリとガバナンスフローによってサポートされています。

  • イメージは、同じプロジェクト内の KServeベースのModel Serving エンドポイントに展開できます。

  • アセットライブラリーは、以下で使用されるモデルの中心的なガバナンスポイントです。

  • Gen AI Builderアシスタント。

  • AIDBナレッジベース埋め込みモデル。

  • カスタムAIパイプラインとAPI。

Asset ライブラリーは、AI Factoryのワークロードで使用されるすべてのモデルが制御、監査可能、およびプロジェクトのKubernetesインフラストラクチャ内で安全に展開されることを保証します。

ハイブリッドマネージャーの考慮事項#

  • リポジトリ構成は各プロジェクトにスコープされます。プロジェクトごとに異なるプライベートレジストリを構成できます。

  • ガバナンスモデルは、イメージ署名、出所チェック、メタデータの追跡を含むハイブリッドマネージャー制御に従います。

一般的な使用例#

  • 事前統合されたNVIDIA NIMモデルLLM、エンベディング、OCR、リランカーを展開します。

  • プライベートレジストリから組織固有のモデルを追加および管理します。

  • さまざまなAI Factoryワークロードで使用可能なモデルバージョンを制御します。

  • メタデータとガバナンスルールを適用して、モデルの使用状況とコンプライアンスを追跡します。

詳細はこちら#