Integrating models#
モデルは、AIDBのコア操作-埋め込み生成、テキストチャンク、要約、OCR、補完を強化するAIエンジンです。 AI操作を実行するすべてのパイプラインステップとSQLファンクションでは、実行前にモデルを登録して到達可能にする必要があります。
モデルを追加する場合
AIDBのインストールと構成の後、それらを参照するパイプラインまたはナレッジベースを作成する前に、モデルを登録します。
AIDBのデフォルトのローカルモデルBERTやCLIPなどを使用している場合、登録は必要ありません。すぐに利用できます。外部API
OpenAI、NVIDIA
NIM、GeminiまたはカスタムHuggingFaceバリアントの場合、最初にaidb.create_model()
を使用してモデルを登録します。
Page |
What it covers |
|---|---|
Default local models (BERT, CLIP, T5, Llama), model providers, registering custom local models, and llama.cpp GGUF models |
|
OpenAI-compatible APIs, the native OpenAI Responses and Anthropic Messages APIs, NVIDIA NIM, Google Gemini, and OpenRouter |
|
Pre-vetted local model variants and supported NVIDIA NIM models |