Support matrix

Support matrix#

ローカル組み込みモデル#

次のHuggingFaceモデルバリアントは、AIDBのローカルモデルプロバイダーで動作するようにテストおよび検証されています。 aidb.create_model() を呼び出すときに、これらの識別子は、対応する構成ヘルパーで使用できます。

BERT#

Model name

HuggingFace identifier

Config string

bert_all-MiniLM-L12-v1

sentence-transformers/all-MiniLM-L12-v1

aidb.bert_config('sentence-transformers/all-MiniLM-L12-v1', revision => 'main')

bert_all-MiniLM-L6-v1

sentence-transformers/all-MiniLM-L6-v1

aidb.bert_config('sentence-transformers/all-MiniLM-L6-v1', revision => 'main')

bert_all-MiniLM-L6-v2

sentence-transformers/all-MiniLM-L6-v2

aidb.bert_config('sentence-transformers/all-MiniLM-L6-v2', revision => 'main')

bert_all-distilroberta-v1

sentence-transformers/all-distilroberta-v1

aidb.bert_config('sentence-transformers/all-distilroberta-v1', revision => 'main')

bert_msmarco-bert-base-dot-v5

sentence-transformers/msmarco-bert-base-dot-v5

aidb.bert_config('sentence-transformers/msmarco-bert-base-dot-v5', revision => 'main')

bert_multi-qa-MiniLM-L6-cos-v1

sentence-transformers/multi-qa-MiniLM-L6-cos-v1

aidb.bert_config('sentence-transformers/multi-qa-MiniLM-L6-cos-v1', revision => 'main')

bert_multi-qa-MiniLM-L6-dot-v1

sentence-transformers/multi-qa-MiniLM-L6-dot-v1

aidb.bert_config('sentence-transformers/multi-qa-MiniLM-L6-dot-v1', revision => 'main')

bert_paraphrase-TinyBERT-L6-v2

sentence-transformers/paraphrase-TinyBERT-L6-v2

aidb.bert_config('sentence-transformers/paraphrase-TinyBERT-L6-v2', revision => 'main')

bert_paraphrase-multilingual-MiniLM-L12-v2

sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

aidb.bert_config('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2', revision => 'main')

bert_paraphrase-multilingual-mpnet-base-v2

sentence-transformers/paraphrase-multilingual-mpnet-base-v2

aidb.bert_config('sentence-transformers/paraphrase-multilingual-mpnet-base-v2', revision => 'main')

すべてのBERTバリアントは、テキスト埋め込みaidb.encode_text() をサポートしています。

クリップ#

Model name

HuggingFace identifier

Config string

openai/clip-vit-base-patch32

openai/clip-vit-base-patch32

aidb.clip_config('openai/clip-vit-base-patch32')

CLIPは、テキスト埋め込みaidb.encode_text() と画像埋め込みaidb.encode_image() の両方をサポートしています。

ラマ#

Model name

HuggingFace identifier

Config string

HuggingFaceTB/SmolLM2-1.7B-Instruct

HuggingFaceTB/SmolLM2-1.7B-Instruct

aidb.llama_config('HuggingFaceTB/SmolLM2-1.7B-Instruct', revision => 'main')

HuggingFaceTB/SmolLM2-135M-Instruct

HuggingFaceTB/SmolLM2-135M-Instruct

aidb.llama_config('HuggingFaceTB/SmolLM2-135M-Instruct', revision => 'main')

HuggingFaceTB/SmolLM2-360M-Instruct

HuggingFaceTB/SmolLM2-360M-Instruct

aidb.llama_config('HuggingFaceTB/SmolLM2-360M-Instruct', revision => 'main')

TinyLlama/TinyLlama-1.1B-Chat-v1.0

TinyLlama/TinyLlama-1.1B-Chat-v1.0

aidb.llama_config('TinyLlama/TinyLlama-1.1B-Chat-v1.0', revision => 'main')

すべてのLlamaバリアントは、テキスト生成aidb.decode_text() をサポートしています。

T5#

Model name

HuggingFace identifier

Config string

t5-small

t5-small

aidb.t5_config('t5-small', revision => 'main')

t5-base

t5-base

aidb.t5_config('t5-base', revision => 'main')

t5-large

t5-large

aidb.t5_config('t5-large', revision => 'main')

T5バリアントは、テキストエンコード aidb.encode_text() とテキスト生成 aidb.decode_text() の両方をサポートしています。

!!!注これらは、AIDBで動作することが確認された事前審査されたバリアントです。これらに制限されません。互換性のあるHuggingFaceモデルは、適切な構成ヘルパーで使用できますが、ここにリストされているバリアントのみがEDBによってテストされています。

NIMモデル#

AIDBは、複数のプロバイダーを介してNVIDIA NIMマイクロサービスをサポートしています。以下の表は、各プロバイダーの互換性のあるNIMモデルをリストしています。 Default on HM とマークされたモデルは、EDB Hybrid Managerのモデルサービングとともに出荷され、HM展開ですぐに利用できます。別の展開は必要ありません。

NIM補完 nim_completions#

aidb.decode_text() 、aidb.decode_text_batch() をサポート

NIM model identifier

Default on HM

nvidia/nemotron-3-nano

OK

nvidia/llama-3.3-nemotron-super-49b-v1

OK

ibm/granite-guardian-3.0-8b

—

ibm/granite-3.0-8b-instruct

—

ibm/granite-3.0-3b-a800m-instruct

—

meta/llama-3.3-70b-instruct

—

meta/llama-3.2-3b-instruct

—

meta/llama-3.2-1b-instruct

—

meta/llama-3.1-405b-instruct

—

meta/llama-3.1-70b-instruct

—

meta/llama-3.1-8b-instruct

—

meta/llama3-70b-instruct

—

meta/llama3-8b-instruct

—

nvidia/llama-3.1-nemotron-70b-instruct

—

nvidia/llama-3.1-nemotron-51b-instruct

—

nvidia/nemotron-mini-4b-instruct

—

nvidia/nemotron-4-340b-instruct

—

google/shieldgemma-9b

—

google/gemma-7b

—

google/codegemma-7b

—

NIMエンベディング nim_embeddings#

aidb.encode_text() 、aidb.encode_text_batch() をサポート

NIM model identifier

Default on HM

nvidia/llama-3.2-nemoretriever-300m-embed-v1

OK

nvidia/nv-embedqa-e5-v5

—

NIM CLIP nim_clip#

aidb.encode_text() 、aidb.encode_text_batch() 、aidb.encode_image() をサポート

NIM model identifier

Default on HM

nvidia/nvclip

OK

NIM OCR nim_paddle_ocr#

aidb.perform_ocr() をサポート

NIM model identifier

Default on HM

baidu/paddleocr

OK

NIMリランキング nim_reranking#

aidb.rerank_text() をサポート

NIM model identifier

Default on HM

nvidia/llama-3.2-nv-rerankqa-1b-v2

OK

!!!注 Default on HM としてマークされたモデルは、EDB Hybrid Managerのモデルサービングによって事前展開されます。他のすべてのモデルは、KServeを使用してセルフホストし、aidb.create_model() を使用してAIDBに登録できます。セットアップ手順については、 NVIDIA NIM を参照してください。

目次