Gen AI in Hybrid Manager#
ハイブリッドマネージャー は、AIファクトリーワークロードを介して Gen AI機能 の運用グレードの展開を可能にし、 Postgresデータ 、 AIパイプラインと深く統合する ソブリンAI ソリューションを提供します、および エンタープライズアーキテクチャ**。
Hybrid Managerの Kubernetesネイティブ 基盤と AI Factory を組み合わせることで、信頼できるデータで動作し、管理されたインフラストラクチャ内で実行され、Postgresにシームレスに接続する高度な エージェントAIアプリケーション を構築できます。
このページでは、Gen AIワークロードがハイブリッドマネージャーでどのように動作し、より広範な EDB Postgres AI PG AI) エコシステムにどのように適合するかについて説明します。
アーキテクチャの詳細と完全な機能のリファレンスについては、 Gen AI Hub から始めます。
コアコンポーネント#
Agent Studio#
AIアシスタントを構築および管理するための ローコード/ノーコードインターフェイス 。
ビジネスチーム、コンテンツ所有者、および開発者がコラボレーションできるようにします。
以下の構成をサポート
LLMモデルModel Servingを介して提供されます
ナレッジベース
ルールセットとガバナンスポリシー
システム統合用ツール
コンテキスト永続化のためのメモリ設定
Agent Studio in Hybrid Manager を参照してください。
Gen AI Builder#
高度なAI開発者に最適な コード駆動エージェント開発環境 。
以下の作成をサポート
複雑なマルチエージェントワークフロー
ツールチェーンとAPIオーケストレーション
基本的なチャットを超えたカスタムエージェントロジック
ビルダーは以下を活用できます。
モデル提供エンドポイントKServe InferenceService
検索拡張生成RAGのナレッジベース
プロジェクト内で定義されたツールと構造
AIDBおよびVector Engineを介したPostgresベースのデータソース
Gen AI Builder in Hybrid Manager を参照してください。
ハイブリッドマネージャー固有の考慮事項#
すべてのGen AIワークロードは、ハイブリッドマネージャープロジェクトの Kubernetesクラスター 内で実行されます。
Model Serving を介して提供されるモデルは、プロジェクトレベルの制御で保護されます。
ナレッジベースとパイプラインは、プロジェクトのストレージとデータガバナンス境界内で動作します。
すべてのGen AIアクティビティの可観測性は、ハイブリッドマネージャーモニタリングと統合されています。
推論メトリック
アシスタントの使用
パイプラインの状態
GPUリソース使用率
ハイブリッドマネージャーは ソブリンAI を有効にします
データはプロジェクトに残ります。
モデルはインフラストラクチャで実行されます。
すべてのAIパイプラインと出力は監査可能および観察可能です。
Sovereign AI explained を参照してください。