Common workloads and use cases

Common workloads and use cases#

Sovereign AIとData Factoryは、データ、インフラストラクチャ、AIの実行の厳密な制御を必要とする組織のために専用に構築されています。ローカルで管理されながら、幅広いワークロードをサポートします。

クラウドでエンジニアドシステムを使用する理由は何ですか?#

多くの最新のワークロードはクラウド環境で実行できますが、すべての組織がクラウド環境に依存できるわけではありません、または依存する必要があります。ソブリンAIとData Factoryは、次のニーズを満たすために存在します。

データ主権とコンプライアンス#

  • すべてのデータ、モデル、ワークロードは物理的インフラストラクチャ内に残ります。

  • 外部APIやサードパーティのストレージは必要ありません。

  • 金融、政府、医療、国家安全保障分野での展開を可能にします。

規制された環境#

  • インターネットへの依存を制限して動作します。

  • 導入ライフサイクルをサポートします。

  • 以前は閉ざされていた環境でLLMおよびAIのユースケースを有効にします。

Postgres + AIの統合プラットフォーム#

  • HA Postgres、ベクトル検索、およびGPU推論を1つのシステムに組み合わせ、組織によって制御されます。

  • オーケストレーション、モニタリング、およびサポートを簡素化します。

  • 断片化したソリューションと重複したインフラストラクチャを排除します。

予測可能なパフォーマンスとコスト#

  • 下り料金、調整、または予測できないGPUキューはありません。

  • 既知のハードウェア全体で最適化されたI/Oとコンピューティング。

  • 総所有コストが明確で制御されています。

ライフサイクル管理されたインフラストラクチャ#

  • 共同EDB + Supermicroサポート契約。

  • ハードウェアとソフトウェアのパッチが統合および調整されました。

  • 顧客主導のインフラストラクチャ管理またはDevOpsに依存しません。

サポートされているワークロードパターン#

次のワークロードは、Sovereign AIおよびData Factoryシステムでエンドツーエンドでサポートされています。

高可用性Postgres#

  • 自動フェイルオーバーを使用してミッションクリティカルなシステムオブレコードを実行します。

  • 可観測性とライフサイクルが焼き付けられます。

ハイブリッドDBaaS#

  • 1つのインターフェイスからマルチプルのクラスターを使用して内部チームにサービスを提供します。

  • ロールベースのアクセス制御とクラスターレベルの可視性。

エンベディングとベクターパイプライン#

  • ローカルモデルを使用してデータをエンベディングに変換します。

  • Postgresのpgvectorを使用して保存および照会します。

  • APIキーまたはクラウドエンドポイントは必要ありません。

取得拡張生成RAG#

  • 構造化内部データを照会し、LLMに渡します。

  • 独自の境界内で取得と推論の両方をホストします。

オンプレミスの推論#

  • 専用のGPUハードウェアで生成モデルおよび埋め込みモデルを提供します。

  • 標準のコンテナNVIDIA NIMなどを使用して、モデル提供を抽象化します。

エージェントAIワークフロー#

  • 内部ツールとデータを使用して、マルチステップのタスクを実行するAIエージェントをビルドします。

  • 外部APIやデータ漏洩はありません。

  • Slack、カスタムダッシュボード、または内部ツールにインターフェイスを展開します。

目次