Concepts and architecture

Concepts and architecture#

Sovereign Data and AI Factoryは、物理的インフラストラクチャ、オーケストレーションソフトウェア、ライフサイクル自動化を単一のシステムに組み合わせ、データセンターに事前に組み立ておよびインストールします。

システムアーキテクチャとコアロールを理解することは、PostgresワークロードとAIパイプラインがどのように展開、管理、およびスケーリングされる方法を明確にするのに役立ちます。

前提条件として、 System specifications の構成の詳細を参照してください。

ノードタイプとロール#

システムには、それぞれが明確な責任と構成を持つ複数のノードロールが含まれています。

管理ノード#

管理ノードは、ソブリンデータとAIファクトリーの追加ソフトウェアパッケージ、ライセンス、およびサポートツールを提供します。インストールごとに1つの管理ノードが必要です。

ハイブリッドマネージャーノード#

3つのハイブリッドマネージャーノードは、高可用性コントロールプレーンを形成します。これらは、Kubernetesのスケジューリング、クラスターライフサイクル、オブザーバビリティ、およびAPIサービスを管理します。

ファンクションには次のものが含まれます。

  • データベースクラスター展開の管理

  • Postgres、OS、およびGPUワークロードからの200以上のメトリックの監視

  • アップデートとパッチの調整

  • 構成UIとAPIの提供

これらのノードは、データワークロードの実行には使用されません。

コンピューティングノード#

コンピューティングノードは、Postgresデータベース、分析パイプライン、またはベクターワークロードを実行するために使用されます。これらのノードは以下をサポートしています

  • EDB Postgres Advanced ServerまたはExtended Server

  • EDB Postgres分散オプショナル

  • Apache Iceberg®などのレイクハウスフォーマット

  • Pythonベースの埋め込みまたは変換パイプライン

AIノードオプショナル#

AIノードは、大規模なモデルの推論とエージェントの実行をサポートするGPU対応サーバーです。システムには2つのタイプが含まれます。

  • 中規模モデルサービングNVIDIA Ada L40S用の 2-GPUノード

  • LLMおよびエージェントランタイム用の 8-GPUノード B200 GPUを搭載したNVIDIA HGX

これらのノードはKServeと統合して、オンプレミスのモデル提供と推論ルーティングを提供します。

オーケストレーションとライフサイクル#

システムは、ハイブリッドマネージャーによって管理されるプリインストールされたKubernetesクラスターを実行します。 Kubernetesには直接アクセスしません。代わりに、ハイブリッドマネージャーは以下を行うためのWebベースのインターフェイスを提供します。

  • 高可用性を備えたPostgresクラスターを展開する

  • ベクターパイプラインまたはAIワークフローのインストールと監視

  • ワークロードを追加ノードにスケーリング

  • パフォーマンスとリソースの使用状況を監視する

EDBは、ソフトウェアとハードウェアの両方にライフサイクルサービスを提供します。

  • メジャーおよびマイナーバージョンのアップグレード

  • セキュリティパッチ

  • ハードウェアファームウェアとBIOSのアップデート

  • 自動クラスターリバランスと再起動処理

「ソブリン」とは何ですか？#

この文脈での主権とは、次のことを意味します。

  • すべてのデータとモデルは物理的環境にあります

  • 外部クラウドへの依存関係やデータ共有はありません

  • あなたがハードウェアを所有し、ネットワークアクセスを制御します

  • 規制対象業界のための完全に監査対応の隔離された環境

ソブリンデータとAIファクトリーは以下に適しています。

  • 政府または国家のデータインフラストラクチャ

  • ローカルデータ規制の対象となる金融サービス

  • 厳しいクラウド制限または機密IPを持つ企業

サポートされているワークロードパターン#

各構成は、さまざまなユースケースをサポートしています。

ワークロード |説明 |コアコンピューティング |高度なAI ———|————-|————–|——— —- 高可用性Postgres | 3ノードHAクラスターを実行する |チェック |埋め込みをチェックする |内部データをベクター形式に変換する |いいえ | Check 取得拡張世代RAG | Postgres + LLMを組み合わせる |いいえ |チェック推論 | GPUを使用してモデルをローカルに提供する |いいえ | Check Agenticワークフロー |自律的に動作するAIエージェントを構築する |いいえ |小切手

構成の詳細については、 System specifications を参照してください。

目次