Integrating models

Integrating models#

モデルは、AIDBのコア操作-埋め込み生成、テキストチャンク、要約、OCR、補完を強化するAIエンジンです。 AI操作を実行するすべてのパイプラインステップとSQLファンクションでは、実行前にモデルを登録して到達可能にする必要があります。

モデルを追加する場合 AIDBのインストールと構成の後、それらを参照するパイプラインまたはナレッジベースを作成する前に、モデルを登録します。 AIDBのデフォルトのローカルモデルBERTやCLIPなどを使用している場合、登録は必要ありません。すぐに利用できます。外部API OpenAI、NVIDIA NIM、GeminiまたはカスタムHuggingFaceバリアントの場合、最初にaidb.create_model() を使用してモデルを登録します。

Page

What it covers

Local models

Default local models (BERT, CLIP, T5, Llama), model providers, registering custom local models, and llama.cpp GGUF models

External model connections

OpenAI-compatible APIs, the native OpenAI Responses and Anthropic Messages APIs, NVIDIA NIM, Google Gemini, and OpenRouter

Support matrix

Pre-vetted local model variants and supported NVIDIA NIM models