Building Production-Ready AI Features - AI Factory 201

Building Production-Ready AI Features - AI Factory 201#

これは誰に向けていますか#

  • Gen AI機能を運用アプリケーションに統合する開発者

  • AI駆動型のナレッジベースのパイプラインを構築するデータチーム

  • モデルの提供と可観測性を構成するAIチームとプラットフォームチーム

  • 大規模なソブリンAIワークロードを有効にするハイブリッドマネージャーユーザー

---

一般的な目標#

このパスを完了すると、次のことができます。

  • マルチステップAIアシスタント と高度な構造を構築する

  • ハイブリッドナレッジベース およびマルチソースRAGパイプラインのデザイン

  • GPU搭載のモデルサービング の展開と管理

  • AI駆動型機能の 可観測性とモニタリング を実装する

  • 実稼働グレードのガバナンスとパフォーマンスチューニングのパターンを学習する

---

フォーカスエリア別のモジュール数

---

1.高度なアシスタントと構造デザイン#

目標

  • 複雑なペルソナとメモリを備えたアシスタントを実装する

  • 高度なマルチステップ構造を作成する

  • ツールと外部データフローを統合する

推定時間 〜30〜45分

モジュール

  1. Assistants Reference Manual — ペルソナ、メモリ、ツールの使用パターンを備えたデザインアシスタント。

  2. Structures Reference Manual — 取得とアクションを信頼できるフローにチェーンする方法を学びます。

  3. Create an Assistant in Gen AI Builder — ツールとKBを使用して実稼働対応アシスタントをビルドします。

  4. Create a Structure in Gen AI Builder — 検証と分岐を使用したマルチステップワークフローを実装します。

  5. Create a Tool in Gen AI Builder — 内部サービスとAPIを安全で管理されたツールとしてラップします。

---

2.データエンジニアリングとハイブリッドナレッジベース#

目標

  • ハイブリッドナレッジベースのデザインと管理

  • マルチソースRAGパイプラインを調整する

  • メタデータフィルタリングとハイブリッド検索を実装する

推定時間 〜30〜45分

モジュール

  1. Best practices for Hybrid Knowledge Bases —鮮度、カバレッジ、コストのバランスを保つパターン。

  2. Manage Knowledge Bases in Gen AI Builder — KBの操作: 再埋め込み、ソースライフサイクル、およびアクセス制御。

  3. Create a Retriever in Gen AI Builder — 検索動作、フィルター、およびランキングを大規模に調整します。

---

3. KServeを使用したモデルサービング#

目標

  • GPU搭載モデルの展開

  • ランタイムとリソース設定を調整する

  • Model Servingのライフサイクルを理解する

推定時間 約45〜60分

モジュール

  1. Model Serving Concepts

  2. How-To Configure a ClusterServingRuntime — 共有設定を使用してモデルのホストファミリーにランタイムを定義します。

  3. How-To Deploy an NVIDIA NIM Microservices available on build.nvidia.comcontainer with KServe — 高性能推論のためにNVIDIA NIMイメージを使用します。

  4. How-To Update GPU Resources for an InferenceService —パフォーマンスとコストの適切なサイズのGPU/CPU。

  5. How-To Verify InferenceServices and GPU usage — ハイブリッドマネージャーでのエンドポイントとGPUの使用率を検証します。

---

4.可観測性とモニタリング#

目標

  • AIパイプラインとモデルサービスの可観測性を実装する

  • パフォーマンスとリソースの使用状況を監視する

  • 実稼働準備状況チェックを有効にする

推定時間 約20〜30分

モジュール

  1. Observability for Model Serving —モデルとパイプラインのメトリックとログ。

  2. How-To Monitor deployed models with KServe — サービス提供エンドポイントの状態とパフォーマンスを追跡します。

  3. Observability for Model Serving —プラットフォームレベルのダッシュボードとアラート。

---

次のステップ#

この201パスを完了した後

---

関連する学習リソース#

---

この201パスをマスターすることにより、 EDB PG AI を使用して、モデル、パイプライン、およびプロダクションオブザーバビリティを完全に制御しながら、 ソブリンAI アプリケーションを展開およびスケーリングする準備が整います。

---

目次