Building Production-Ready AI Features - AI Factory 201 ====================================================== これは誰に向けていますか ------------------------ - Gen AI機能を運用アプリケーションに統合する開発者 - AI駆動型のナレッジベースのパイプラインを構築するデータチーム - モデルの提供と可観測性を構成するAIチームとプラットフォームチーム - 大規模なソブリンAIワークロードを有効にするハイブリッドマネージャーユーザー ``---`` 一般的な目標 ------------ このパスを完了すると、次のことができます。 - **マルチステップAIアシスタント** と高度な構造を構築する - **ハイブリッドナレッジベース** およびマルチソースRAGパイプラインのデザイン - **GPU搭載のモデルサービング** の展開と管理 - AI駆動型機能の **可観測性とモニタリング** を実装する - 実稼働グレードのガバナンスとパフォーマンスチューニングのパターンを学習する ``---`` フォーカスエリア別のモジュール数 ``---`` 1.高度なアシスタントと構造デザイン ---------------------------------- **目標** - 複雑なペルソナとメモリを備えたアシスタントを実装する - 高度なマルチステップ構造を作成する - ツールと外部データフローを統合する **推定時間** 〜30〜45分 **モジュール** 1. :ref:`Assistants Reference Manual ` — ペルソナ、メモリ、ツールの使用パターンを備えたデザインアシスタント。 2. :ref:`Structures Reference Manual ` — 取得とアクションを信頼できるフローにチェーンする方法を学びます。 3. :ref:`Create an Assistant in Gen AI Builder ` — ツールとKBを使用して実稼働対応アシスタントをビルドします。 4. :ref:`Create a Structure in Gen AI Builder ` — 検証と分岐を使用したマルチステップワークフローを実装します。 5. :ref:`Create a Tool in Gen AI Builder ` — 内部サービスとAPIを安全で管理されたツールとしてラップします。 ``---`` 2.データエンジニアリングとハイブリッドナレッジベース ---------------------------------------------------- **目標** - ハイブリッドナレッジベースのデザインと管理 - マルチソースRAGパイプラインを調整する - メタデータフィルタリングとハイブリッド検索を実装する **推定時間** 〜30〜45分 **モジュール** 1. :ref:`Best practices for Hybrid Knowledge Bases ` —鮮度、カバレッジ、コストのバランスを保つパターン。 2. :ref:`Manage Knowledge Bases in Gen AI Builder ` — KBの操作: 再埋め込み、ソースライフサイクル、およびアクセス制御。 3. :ref:`Create a Retriever in Gen AI Builder ` — 検索動作、フィルター、およびランキングを大規模に調整します。 ``---`` 3. KServeを使用したモデルサービング ----------------------------------- **目標** - GPU搭載モデルの展開 - ランタイムとリソース設定を調整する - Model Servingのライフサイクルを理解する **推定時間** 約45〜60分 **モジュール** 1. :ref:`Model Serving Concepts ` 2. :ref:`How-To Configure a ClusterServingRuntime ` — 共有設定を使用してモデルのホストファミリーにランタイムを定義します。 3. :ref:`How-To Deploy an NVIDIA NIM Microservices available on build.nvidia.comcontainer with KServe ` — 高性能推論のためにNVIDIA NIMイメージを使用します。 4. :ref:`How-To Update GPU Resources for an InferenceService ` —パフォーマンスとコストの適切なサイズのGPU/CPU。 5. :ref:`How-To Verify InferenceServices and GPU usage ` — ハイブリッドマネージャーでのエンドポイントとGPUの使用率を検証します。 ``---`` 4.可観測性とモニタリング ------------------------ **目標** - AIパイプラインとモデルサービスの可観測性を実装する - パフォーマンスとリソースの使用状況を監視する - 実稼働準備状況チェックを有効にする **推定時間** 約20〜30分 **モジュール** 1. :ref:`Observability for Model Serving ` —モデルとパイプラインのメトリックとログ。 2. :ref:`How-To Monitor deployed models with KServe ` — サービス提供エンドポイントの状態とパフォーマンスを追跡します。 3. :ref:`Observability for Model Serving ` —プラットフォームレベルのダッシュボードとアラート。 ``---`` 次のステップ ============ この201パスを完了した後 - :ref:`Advanced AI Factory Usage and Extensibility - AI Factory 301 ` に進む — AIアプリのスケーリング、マルチエージェントオーケストレーション、埋め込みパイプライン、および高度なガバナンスのための高度なパターン。 ``---`` 関連する学習リソース ==================== - :ref:`Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads) ` - `Hybrid Manager: Using Gen AI Builder `_ - :ref:`Sovereign AI Explained ` - :ref:`Model Serving Concepts ` - :ref:`Structures Reference Manual ` ``---`` この201パスをマスターすることにより、 **EDB PG AI** を使用して、モデル、パイプライン、およびプロダクションオブザーバビリティを完全に制御しながら、 **ソブリンAI** アプリケーションを展開およびスケーリングする準備が整います。 ``---``