AI Factory vs. “Generic AI”#
AI Factoryは、Postgresエステート、主にEDB Hybrid Manager内で実行されるGen AIとデータインフラストラクチャに焦点を当てています。 「汎用AI」とは、既に使用している汎用AI / MLスタックとサービスたとえば、外部LLM API、MLプラットフォーム、データサイエンスツールなどを指します。
このページでは、各アプローチが誰を対象としているか、それぞれが最適な機能、どこで実行されるか、どちらかを選択する場合、およびそれらが連携する方法について説明します。また、 EDB Postgres® AIを採用するチームから聞こえる一般的な質問にも答えます。
それぞれの意味#
AIファクトリー PostgresデータのGen AIとインテリジェントデータアプリのモジュール型機能セット。これには、 Gen AI Builder 、 Pipelines and data preparation 、 Vector Engine (PGvector) 、および Model Serving Reference Manual が含まれます。これは、最初にハイブリッドマネージャー用に設計されており、 AI Factory in Hybrid Manager を介してガバナンスと可観測性のための統合コントロールプレーンを取得します。
汎用AI AI Factoryの外部の汎用AIおよびMLツール—実験やモデル開発に使用されるクラウドLLM APIまたはスタンドアロンMLプラットフォームなど。これらをAI Factoryと組み合わせて、エンドツーエンドのソリューションを構築できます。
概念とアーキテクチャの概要については、 Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads) および AI Factory Explained を参照してください。
対象者#
AIファクトリー ガバナンスを備えた信頼できるPostgresデータにGen AIアシスタント、ドキュメントインテリジェンス、およびAI搭載機能を構築したいアプリケーション開発者、データエンジニア、およびプラットフォームチーム。ハンズオンについては、 Learning Paths を参照してください。
汎用AI 専用のMLツールでモデルの探索、微調整、またはドメインのR&Dを行うデータサイエンスと研究チーム。これらの取り組みにより、モデルとコンポーネントをAI Factoryにフィードして、運用化できます。
実行される場所#
ハイブリッドマネージャーハブ AI Factoryの機能のほとんどは、 Hybrid Manager’s AI Factory 内で配信および管理されます。これにより、Gen AI、パイプライン、ベクター検索、モデル提供全体でのライフサイクル制御、ガバナンス、およびオブザーバビリティが提供されます。
外部ハイブリッドマネージャー選択したコンポーネント Vector Engine (PGvector) 、 Pipelines and data preparation 、またはAIDB機能などのPostgres焦点を当てた機能がサポートされている場合を実行できます。そうすると、クラスターのライフサイクル、セキュリティ、およびオブザーバビリティを所有します。詳細については、 Where AI Factory runs を参照してください。
それぞれを選択する場合#
次の場合にAI Factoryを選択します。
Postgresのエンタープライズデータに依存するアシスタント、検索、またはワークフローの自動化をビルドします。
Pipelines and data preparation および Vector Engine (PGvector) を使用したニーズ管理型検索拡張生成RAG。
統合された可観測性とライフサイクル管理が必要ですハイブリッドマネージャー。
Model Serving Reference Manual を介して安定したエンドポイントの背後でモデルを提供する計画。
次の場合に汎用AIを選択します。
研究設定でのモデルアーキテクチャ、トレーニングデータ、または評価ワークフローを実験します。
Postgresガバナンスとの統合を必要としないプロトタイピングまたは一時的なワークロードには、外部APIを使用します。
運用中のPostgresまたはハイブリッドマネージャー環境の一部ではないバッチモデルトレーニングを実行します。
多くの組織は、探索のための汎用AIと、Postgresでデータ中心のAIを運用化するためのAIファクトリーの両方を行っています。
連携する方法#
独自のモデルの持ち込み 精査されたモデルをパッケージ化し、 Model Serving Reference Manual を使用した推論サービスとして展開します。 Model Library Reference Manual パターンを使用して、モデルアセットを整理します。
外部プロバイダーを使用する Gen AI Builder で、ドライバーを介して外部サービスを呼び出すことができるアシスタントとツールをビルドします。 Drivers overview を参照してください。
データフローの運用化 Pipelines and data preparation を使用して、ベクター検索とRAG用にコンテンツを準備、変換、および最新の状態に保ちます。
Postgresのベクターを使用したクエリー リレーショナルデータとともに Vector Engine (PGvector) を使用してエンベディングを保存および検索して、操作を簡単にしてセキュリティを高めます。
ユースケース#
エンタープライズナレッジアシスタント ナレッジベースとPostgresから信頼できる回答を取得するドメインアシスタントを構築します。 Gen AI Builder および Vector Engine (PGvector) から始めます。
ドキュメントインテリジェンス Gen AIアシスタントと統合された Pipelines and data preparation を使用して、ドキュメントを分類、抽出、および要約します。
アプリ用のAI搭載API Model Serving Reference Manual の背後にある埋め込み、レコメンデーション、または言語タスクを提供します。
モデルの探索と評価 優先する「汎用AI」ツールを使用して、候補モデルを評価します。提供のためにAIファクトリーに昇格する前に。
前提条件#
ハイブリッドマネージャーの使用 AI Factoryが有効になり、Gen AI、パイプライン、ベクター検索、モデル提供の資格を備えたハイブリッドマネージャーインスタンスへのアクセス。 AI Factory in Hybrid Manager を参照してください。
ハイブリッドマネージャーの外部で実行されているコンポーネント 拡張機能とAIDB用にサポートされているPostgres環境、およびパイプラインとサービスに必要なインフラストラクチャ該当する場合。プラットフォームの互換性、セキュリティ、およびライセンスを検証します。
HM外部での使用の正確なサポートマトリックスが必要な場合は、EDB担当者と調整してください。
よくある質問#
Q: AI Factoryはモデルをトレーニングしますか?
A: AI Factoryは、Gen AIとデータインフラストラクチャに焦点を当てています。データを使用してモデルを取得、強化、および提供します。モデルのトレーニングと実験に汎用スタックを使用し、 Model Serving Reference Manual を介して精査されたモデルを提供します。
Q:ハイブリッドマネージャーなしでAI Factoryを実行できますか?
A:多くの機能はハイブリッドマネージャーで実行することを目的としています。 Vector Engine (PGvector) 、 Pipelines and data preparation 、AIDB機能などの選択されたコンポーネントは、サポートされている場合にハイブリッドマネージャーの外部で実行できます。 Where AI Factory runs を参照してください。
Q: 独自のLLMまたは埋め込みモデルを持ち込むにはどうすればよいですか?
A: Model Serving Reference Manual を使用してパッケージ化および展開します。 Model Library Reference Manual の下のライブラリパターンを使用して、アーティファクトとメタデータを管理します。
Q:アシスタントはどのようにしてエンタープライズデータに安全にアクセスしますか?
A ガバナンスされたナレッジベースで Gen AI Builder を使用し、RAGでは Pipelines and data preparation 、およびPostgresネイティブ Vector Engine (PGvector) を使用します。ハイブリッドマネージャーでは、これらのワークロードは、統合されたガバナンスと可観測性の下で実行されます。
Q どこから始めればよいですか？
A: AI Factory Concepts を確認し、 Learning Paths を選択します。ハイブリッドマネージャーで操作する場合、 AI Factory in Hybrid Manager から開始します。