Glossary and key terms#

これらの重要な用語とアーキテクチャコンポーネントは、Sovereign AIおよびData Factoryのドキュメント全体で使用されています。

管理ノード#

システムの中央制御ノード。ハイブリッドマネージャーインターフェイス、認証サービス、およびオーケストレーションロジックをホストします。

モデル推論、ベクトル処理、およびエージェント実行に使用されるGPU対応サーバー。オプションのAIワークロード構成の一部。

AIエージェントが内部ツール、メモリ、フィードバックループを使用して独立してタスクを実行するマルチステップの自動化パターン。多くの場合、LLMおよびベクターデータに基づいて構築されます。

クラスターのスケジューリング、モニタリング、ライフサイクル操作、およびアクセス制御を担当する3つのハイブリッドマネージャーノードのセット。データワークロードとは無関係に動作します。

Postgresクラスター、分析、またはベクターパイプラインを実行するために使用される汎用の高性能ノード。必要に応じてスケールアウトできます。

構造化または非構造化データを、検索や分類などのAIワークフローに適したベクトル表現に変換するプロセス。

Kubernetes環境でデータベースとAIワークロードをオーケストレーションするためのEDBの管理レイヤークラスターの展開、システムの監視、およびライフサイクル操作の管理に使用されます。

機械学習モデルから出力を生成する行為。このシステムでは、推論は、KServeおよびNVIDIA NIMコンテナを使用して専用のGPUノードで実行されます。

推論ワークロードを実行するために使用されるオープンソースのモデル提供フレームワーク。 LLMを提供し、モデルを埋め込むために、ハイブリッドマネージャーとGPUノードに統合されています。

セキュリティパッチ、OS更新、Postgresのアップグレード、ファームウェア管理を含む、ハードウェアとソフトウェアの両方の継続的なサポートと管理。

EDBのマルチノード、高可用性Postgresソリューション。グローバルに分散または同期のマルチリージョンクラスターを必要とする顧客のオプション。

構造化データ多くの場合Postgresが取得されてLLMに渡されて、自然言語応答を生成するワークロードパターン。埋め込み機能と推論機能が必要です。

すべてのデータ、モデル、実行環境が、必要に応じて完全にエアギャップされた顧客制御のスペース内に物理的および論理的に残るAI展開モデル。

埋め込みベクトルを保存し、類似性検索をサポートするデータベースまたはインデックス。 Postgresとpgvectorは、このシステムでローカルベクターストレージに使用されます。