Gen AI Builder Concepts (Assistants, Knowledge, Tools, Threads)#
このページでは、AI FactoryでGen AIアプリケーションをビルドするために使用するコアエンティティとそれらの関係を紹介します。ハウツーまたはSDKの詳細に入る前に説明します。
アシスタントオーケストレーター#
アシスタントは、アプリケーションロジックのオーケストレーターです。
ディレクティブゴールを実行し、座標の取得とツールの使用を実行します。
ナレッジRAGの場合、ツールを使用しますアクション、APIの場合。
プラットフォームによって構成されたモデルエンドポイントで実行されます Model Serving Reference Manual を参照してください。
詳細はこちら Assistants Reference Manual
ルールセットポリシーとコンストレイン#
ルールセットは動作を制約し、出力をガイドします。
キャプチャポリシー トーン、スタイル、安全ガイドライン、ガードレール。
アシスタントに適用して、実行全体に境界を適用します。
詳細はこちら Rulesets Manual
ナレッジ 検索#
ナレッジスタックは、エンタープライズデータに基づいてモデルを根拠とします。
ナレッジベース フィルタのメタデータを含むテーブル/ファイルからの埋め込みコンテンツ。
レトリバー ハイブリッド検索の検索パラメーターtop-K、しきい値、フィルターを定義します。
データレイク ナレッジの取り込みをフィードするアセットとファイルのリポジトリ。
詳細はこちら
ツール アクションと統合#
アシスタントはツールを使用して外部システムと内部APIを呼び出すことができます。
RESTエンドポイントまたは内部サービスを型指定されたインターフェイスでラップします。
認証と入出力マッピングを提供します。
ルールセットと構成を介してアシスタントが呼び出すことができるツールを制御します。
詳細はこちら Tools Reference Manual
構造体ワークフローとビルディングブロック#
構造は、以下を構成できる高レベルのビルディングブロックタスク、パイプライン、ワークフローです。
再利用可能なロジックパターンをカプセル化します。
アシスタントと統合するか、内部でツールと取得を呼び出します。
詳細はこちら Structures Reference Manual
スレッド状態と可観測性#
スレッドは会話状態を持続し、監査可能性を提供します。
プロンプト、ツール呼び出し、取得したコンテキスト、および応答を記録します。
レビュー、デバッグ、およびコンプライアンスを有効にします。
詳細はこちら Threads Reference Manual
モデルとエンドポイント世代#
アシスタントは生成にモデルエンドポイントを使用します。
プライベート推論には Model Serving Reference Manual を使用します。
エンドポイントを内部クラスターローカルまたは外部ポータル+アクセスキーで呼び出します。
オペレーション固有のパスを使用しますチャット
/v1/chat/completions、埋め込み/v1/embeddings、リランク/v1/ranking。
それをまとめる#
高レベルでは
ナレッジハイブリッド検索を備えたナレッジベースとツールを準備します。 2)ディレクティブでアシスタントを構成し、ナレッジとツールを接続し、モデルエンドポイントを選択します。 3)スレッドを使用して、動作を観察、トレースをデバッグ、および相互作用を管理します。
ビルドガイド