AI Factory terminology ====================== AI Factoryの用語は、 **EDB Postgres® AI** EDB PG AI、 **Hybrid Manager AI Factory** 、および関連コンポーネントで使用される主要な概念とテクノロジーを定義します。このページは、これらの概念的な説明を補完します。 - :ref:`Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads) ` - :ref:`Fundamental AI Concepts ` これらの用語を理解することは、EDB PG AIを使用して、信頼でき、ガバナンスがあり、スケーラブルなAIソリューションを構築するのに役立ちます。 ``---`` コアAIコンセプト ---------------- 機械学習ML ^^^^^^^^^^ 機械学習は、データ露出を通じて改善するアルゴリズムを使用して、明示的なプログラミングなしでタスクを実行します。 :ref:`Model Serving Reference Manual ` 、パイプライン、およびアシスタントを介して、AI Factoryでの予測分析、自動化、および意思決定を強化します。 `Learn more `_ - これは、現在ハイブリッドマネージャーによってサポートされている意図的なユースケースではないことに注意してください\* ディープラーニングDL ^^^^^^^^^^^^^^^^^^^^ ディープラーニングは、多層ニューラルネットワークを活用して、複雑なデータパターンをモデル化します。 AI Factory内の言語理解や画像認識などの高度なアプリケーションをサポートし、GPUアクセラレーションを備えた :ref:`Model Serving Reference Manual ` を介して有効になります。 `Learn more `_ 自然言語処理NLP ^^^^^^^^^^^^^^^ 自然言語処理NLPにより、コンピューターは人間の言語を理解および生成できます。 :ref:`Knowledge Bases Reference Manual ` 、 :ref:`Retrievers Reference Manual ` 、および :ref:`Assistants Reference Manual ` を介して、AI Factoryのセマンティック検索と会話型AIを基盤とします。 `Learn more `_ 大規模言語モデルLLM ^^^^^^^^^^^^^^^^^^^ LLMは、大規模なテキストコーパスでトレーニングされた大規模な深層学習モデルです。 AI Factoryでは、 :ref:`Assistants Reference Manual ` 、取得拡張生成RAG、およびさまざまなモデルパイプラインを駆動し、 :ref:`Model Serving Reference Manual ` を使用して展開されます。 `Learn more `_ エンベディング ^^^^^^^^^^^^^^ エンベディングは、意味的な意味をキャプチャするデータのベクトル表現です。 AI Factory Pipelinesは、 :ref:`Knowledge Bases Reference Manual ` で使用されるエンベディングを作成し、 :ref:`Vector Engine (PGvector) ` を介して提供されて、セマンティック検索とRAGを有効にします。 `Learn more `_ ベクターデータベース ^^^^^^^^^^^^^^^^^^^^ ベクターデータベースはエンベディングを保存し、高速な類似性検索を有効にします。 AI Factoryは、オープンソースの `pgvector `_ 拡張機能に構築され、Postgresと直接統合された :ref:`Vector Engine (PGvector) ` を介してこれを提供します。取得拡張生成RAG ^^^^^^^^^^^^^^^ RAGは、ベクトル検索とLLM生成を組み合わせて、関連ドキュメントの地上モデル応答を実現します。 AI Factoryでは、 :ref:`Knowledge Bases Reference Manual ` 、 :ref:`Retrievers Reference Manual ` 、および :ref:`Model Serving Reference Manual ` を介して実装されます。 `Intro to RAG `_ ``---`` データベース用のAI ------------------ インテリジェントなデータベース管理 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ インテリジェントなデータベース管理はAIを適用して、Postgresのパフォーマンスと操作を最適化します。 AI Factoryは、 :ref:`Vector Engine (PGvector) ` とパイプラインを使用したインテリジェントな取得と検索でこれを拡張します。 Postgresのベクトル検索 ^^^^^^^^^^^^^^^^^^^^^^ ベクター検索を使用すると、Postgres内で直接エンベディングを照会できます。 AI Factoryは、 `pgvector `_ を使用して、 :ref:`Vector Engine (PGvector) ` を介してこの機能を強化し、ナレッジベースとRAGをサポートします。 AIDB ^^^^ AIDB AI-in-Databaseは、ベクトル検索、埋め込みパイプライン、および将来の機能をHM管理のPostgresクラスターにもたらします。これは、AI Factory :ref:`Pipelines and data preparation ` およびナレッジベースの基盤です。 ======== インテリジェントなデータベース管理はAIを適用して、Postgresのパフォーマンスと操作を最適化します。 AI Factoryは、 `Vector Engine `_ とパイプラインを使用したインテリジェントな取得と検索でこれを拡張します。データベース内機械学習In-DB ML ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ In-DB MLは、Postgres内でベクトル検索とMLパイプラインを実行できるようにし、データの移動とレイテンシーを削減します。 AI Factoryは、 `Vector Engine `_ および `Pipelines `_ を介してこれを実装します。 .. _postgresのベクトル検索-1: Postgresのベクトル検索 ^^^^^^^^^^^^^^^^^^^^^^ ベクター検索を使用すると、Postgres内で直接エンベディングを照会できます。 AI Factoryは、 `pgvector `_ を使用して、 :ref:`Vector Engine (PGvector) ` を介してこの機能を強化し、ナレッジベースとRAGをサポートします。 .. _aidb-1: AIDB ^^^^ AIDBは、ベクター検索、埋め込みパイプライン、およびその他の機能をHM管理のPostgresクラスターにもたらします。これは、AI Factory `Pipelines `_ およびナレッジベースの基盤です。データベースへの自然言語インターフェイス ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ 自然言語インターフェイスにより、ユーザーはSQLではなく自然言語を使用してPostgresを照会できます。 AI Factory Assistantは、 :ref:`Gen AI Builder ` を介してこのパターンを活用し、LLMと構造化および非構造化取得を組み合わせます。 ``---`` AIインフラ ---------- AI高速化ハードウェア ^^^^^^^^^^^^^^^^^^^^ AI Factoryは、GPU高速化されたKubernetesクラスターを使用して、ディープラーニングモデルと高スループットの推論を提供します。 `Model Serving `_ のモデルワークロードは、GPU対応ノードで実行されます。 `Learn more `_ KServe ^^^^^^ KServeは、AI Factoryがモデルの展開と管理に使用するオープンソースのKubernetesネイティブフレームワークです。 AI Factory :ref:`Model Serving Reference Manual ` のInferenceServices、自動スケーリング、およびオブザーバビリティを提供します。 `KServe documentation `_ モデルサービング ^^^^^^^^^^^^^^^^ Model Servingは、内部でKServeを使用して、AIモデルをプロダクショングレードの推論サービスとして展開します。 LLM、埋め込みモデル、ビジョンモデル、およびカスタムAIワークロードをサポートしています。 :ref:`Model Serving Reference Manual ` 、 :ref:`Model Serving Explained ` を参照してください。 ``---`` Gen AI Builder -------------- .. _gen-ai-builder-1: Gen AI Builder ^^^^^^^^^^^^^^ Gen AI Builderは、AI搭載アプリとエージェントを構築するためのAI Factoryのアプリケーションレイヤーです。それは統合します - 会話型AIの場合 :ref:`Assistants Reference Manual ` - RAGおよびセマンティック検索の場合 :ref:`Knowledge Bases Reference Manual ` - :ref:`Retrievers Reference Manual ` 高度な検索パターンの場合 - :ref:`Tools Reference Manual ` 外部アクションを実行する - :ref:`Rulesets Manual ` アシスタントの動作を制御する - :ref:`Threads Reference Manual ` 会話履歴を永続化する - AIワークフローとパイプラインを定義する :ref:`Structures Reference Manual ` :ref:`Hybrid Manager AI Factory ` に展開され、フルスタックのソブリンAIが有効になります。 ``---`` ハイブリッドマネージャー AI Factory ----------------------------------- ハイブリッドマネージャー ^^^^^^^^^^^^^^^^^^^^^^^^ Hybrid Managerは、AI Factoryワークロード、GPUリソース、パイプライン、モデルサービング、ナレッジベースの管理にKubernetesベースのコントロールプレーンを提供します。エンドツーエンドのガバナンス、セキュリティ、およびオブザーバビリティを提供します。 :ref:`Hybrid Manager AI Factory ` を参照してください。パイプライン ^^^^^^^^^^^^ パイプラインは、コントロール内のデータソースからの埋め込みとナレッジベースの作成を自動化し、透明性と監査可能性を保証します。 :ref:`AI Accelerator Pipelines overview ` を参照してください。ナレッジベース ^^^^^^^^^^^^^^ セマンティック検索とRAGのナレッジベースインデックスコンテンツ。マルチソース、マルチモーダル検索をサポートし、AI Factory Assistantをサポートします。 :ref:`Knowledge Bases Reference Manual ` を参照してください。 .. _モデルサービング-1: モデルサービング ^^^^^^^^^^^^^^^^ Model Servingは、KubernetesネイティブのKServeを使用してモデルを展開し、 :ref:`Model Library Reference Manual ` と統合します。アシスタント、ナレッジベース、カスタムAIアプリケーションを強化します。 :ref:`Model Serving Reference Manual ` を参照してください。 ``---`` 追加の概念 ---------- 画像とモデルライブラリー ^^^^^^^^^^^^^^^^^^^^^^^^ ハイブリッドマネージャーのイメージとモデルライブラリーは、 PostgresとAIモデル展開の両方のコンテナイメージを管理します。 :ref:`Model Library Reference Manual ` は、AIに焦点を当てたビューを提供し、モデル提供と管理されたイメージワークフローをサポートします。 :ref:`Model Library Reference Manual ` を参照してください。 NVIDIA NIM ^^^^^^^^^^ NVIDIA NIMマイクロサービスは、高性能の推論のためにNVIDIAから最適化されたAIモデルイメージです。 AI Factoryは、LLM、エンベディング、およびビジョンモデルにNIMコンテナを使用し、Model Servingを介して提供されます。 :ref:`How-To Deploy an NVIDIA NIM Microservices available on build.nvidia.comcontainer with KServe ` を参照してください。 ``---`` 概要 ---- これらの用語を理解すると、次のことをビルドするのに役立ちます。 - :ref:`Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads) ` - :ref:`AI Factory Explained ` - :ref:`Hybrid Manager AI Factory ` これらの機能を組み合わせることで、 **信頼でき、ガバナンスされたソブリンAI** を、自分のデータ、データベース、自分の制御の下で提供できます。 ``---``