AI Factory in Hybrid Manager

AI Factory in Hybrid Manager#

Hybrid Managerの AI Factoryワークロード は、スケーラブルなAI、機械学習、およびGen AI機能をHybrid Managerプラットフォームにもたらします。 Postgres、ベクトル検索、モデルサービング、AIアシスタントにわたって緊密に統合されているため、ハイブリッドマネージャーが管理するクラスターとデータ全体でAIを運用できます。

ハイブリッドマネージャーのAI Factoryを使用すると、次のことができます。

  • 内部または外部向けにGen AIアシスタントとエージェントを展開する

  • 統合されたKServeベースの推論とGPUアクセラレーションを使用してAIモデルを大規模に提供

  • ナレッジベースを作成し、ベクトル検索を使用して検索拡張生成RAGを実行します

  • モデルライブラリを管理し、ハイブリッドマネージャーガバナンスの下で信頼できるモデルを展開します

  • AI機能をアプリケーションとデータパイプラインに直接統合します

ハブクイックリンク AI Factory Hub — Gen AI Builder on Hybrid Manager — Model Serving

詳細なアーキテクチャとコア概念については、 AI Factory Hub を参照してください。

構築できるAIソリューションの例#

ハイブリッドマネージャーのAIファクトリーは、多くのドメインにわたるソリューションを有効にします。

  • エンタープライズ検索およびナレッジアシスタント 企業文書、データベース、イントラネットコンテンツと統合するRAGベースのアシスタントを構築します。

  • カスタマーサポートチャットボット 独自のデータとドメイン固有のモデルを活用したアシスタントを展開し、会話型AIとナレッジベースを組み合わせます。

  • AI駆動型データアプリ アプリのAI搭載エンドポイント - セマンティック検索、レコメンデーション、類似性検索、または自然言語クエリーを公開します。

  • 内部ツールのためのオペレーショナルAI DevOps、カスタマーサクセス、HRオートメーション、セールスイネーブルメントなどを支援するAIエージェントとツールを構築します。

  • ドメイン固有のモデル提供 独自のまたは微調整されたモデルLLM、埋め込みモデル、ランキングモデルを、ハイブリッドマネージャークラスター内のスケーラブルな推論サービスとして提供します。

単一のアシスタントまたはモデルエンドポイントでスモールスタートし、AI Factoryアーキテクチャを使用して完全なAI搭載アプリケーションにスケーリングできます。

ラーニングパス#

構造化された学習パスに従って、ハイブリッドマネージャーのAIファクトリーをマスターします。

  • AI Factory 101 — 初歩の概念と使用法

  • AI Factory 201 — Gen AIおよびAI Factoryのワークロードの構築と管理

  • AI Factory 301 — 高度な統合、スケーリング、ガバナンス、および最適化

ユースケースとソリューション#

AI Factoryを使用してソリューションを構築するのに役立つ詳細なガイダンスとパターンを提供します。

ハイブリッドマネージャーワークロードの## AI Factory

ハイブリッドマネージャーは、AIファクトリー機能のフルセットをサポートし、コントロールプレーンに緊密に統合されています。

Gen AIワークロード#

モデルの管理と提供#

  • Model Library Architecture — モデルアセットを管理および統治する

  • Model Serving — Kubernetesでのモデル推論サービスの展開とスケーリング

  • GPU resource management — サービング用のGPU容量を構成および割り当てます

ベクトルエンジン#

  • Vector Engine — Postgresを使用した統合ベクトル検索および類似性機能

Hybrid Managerの学習コンテンツ#

ハブのAI Factoryコンテンツに加えて、ハイブリッドマネージャーは、ハイブリッドマネージャー固有の使用のための追加の学習コンテンツを提供します。

AI Factoryがハイブリッドマネージャーにどのように適合するか#

Hybrid Managerは、データベース、分析、AIワークロードのコントロールプレーンです。 AI Factoryは、他のHM機能を補完します。

  • データベース Postgresクラスターをプロビジョニングおよび管理します。 AI Factoryは、ベクター検索、RAG、およびアプリケーションエンドポイントのためにこれらに接続します。

  • 分析 データをIceberg/Deltaにオフロードし、 SQL経由でクエリします。 AI Factoryのパイプラインとベクトルエンジンは、取得のためにこれらのデータセットと統合します。

  • オペレーション HMの可観測性とガバナンスを使用して、データベースと分析とともにGen AI、パイプライン、およびモデル提供をモニタします。

HMのAIファクトリーの前提条件

  • AI Factoryが対応し、Gen AI、パイプライン、ベクトルエンジン、モデルサービングの資格が必要なハイブリッドマネージャープロジェクト。

  • 提供に必要なGPUリソースへのアクセス。 GPU resource management を参照してください。

はじめる#

ハイブリッドマネージャーでAIファクトリーを使用してビルドを開始するには

Hybrid ManagerのAI Factoryは、ハイブリッドデータ資産全体でAIを運用化するためのスケーラブルで安全なプラットフォームを提供します。

目次