Support matrix ============== ローカル組み込みモデル ---------------------- 次のHuggingFaceモデルバリアントは、AIDBのローカルモデルプロバイダーで動作するようにテストおよび検証されています。 ``aidb.create_model()`` を呼び出すときに、これらの識別子は、対応する構成ヘルパーで使用できます。 BERT ^^^^ .. csv-table:: :header: Model name,HuggingFace identifier,Config string :widths: 10,18,18 :align: left :class: longtable `bert_all-MiniLM-L12-v1`,`sentence-transformers/all-MiniLM-L12-v1`,"`aidb.bert_config('sentence-transformers/all-MiniLM-L12-v1', revision => 'main')`" `bert_all-MiniLM-L6-v1`,`sentence-transformers/all-MiniLM-L6-v1`,"`aidb.bert_config('sentence-transformers/all-MiniLM-L6-v1', revision => 'main')`" `bert_all-MiniLM-L6-v2`,`sentence-transformers/all-MiniLM-L6-v2`,"`aidb.bert_config('sentence-transformers/all-MiniLM-L6-v2', revision => 'main')`" `bert_all-distilroberta-v1`,`sentence-transformers/all-distilroberta-v1`,"`aidb.bert_config('sentence-transformers/all-distilroberta-v1', revision => 'main')`" `bert_msmarco-bert-base-dot-v5`,`sentence-transformers/msmarco-bert-base-dot-v5`,"`aidb.bert_config('sentence-transformers/msmarco-bert-base-dot-v5', revision => 'main')`" `bert_multi-qa-MiniLM-L6-cos-v1`,`sentence-transformers/multi-qa-MiniLM-L6-cos-v1`,"`aidb.bert_config('sentence-transformers/multi-qa-MiniLM-L6-cos-v1', revision => 'main')`" `bert_multi-qa-MiniLM-L6-dot-v1`,`sentence-transformers/multi-qa-MiniLM-L6-dot-v1`,"`aidb.bert_config('sentence-transformers/multi-qa-MiniLM-L6-dot-v1', revision => 'main')`" `bert_paraphrase-TinyBERT-L6-v2`,`sentence-transformers/paraphrase-TinyBERT-L6-v2`,"`aidb.bert_config('sentence-transformers/paraphrase-TinyBERT-L6-v2', revision => 'main')`" `bert_paraphrase-multilingual-MiniLM-L12-v2`,`sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2`,"`aidb.bert_config('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2', revision => 'main')`" `bert_paraphrase-multilingual-mpnet-base-v2`,`sentence-transformers/paraphrase-multilingual-mpnet-base-v2`,"`aidb.bert_config('sentence-transformers/paraphrase-multilingual-mpnet-base-v2', revision => 'main')`" すべてのBERTバリアントは、テキスト埋め込み\ ``aidb.encode_text()`` をサポートしています。 クリップ ^^^^^^^^ .. csv-table:: :header: Model name,HuggingFace identifier,Config string :widths: 10,18,18 :align: left :class: longtable `openai/clip-vit-base-patch32`,`openai/clip-vit-base-patch32`,`aidb.clip_config('openai/clip-vit-base-patch32')` CLIPは、テキスト埋め込み\ ``aidb.encode_text()`` と画像埋め込み\ ``aidb.encode_image()`` の両方をサポートしています。 ラマ ^^^^ .. csv-table:: :header: Model name,HuggingFace identifier,Config string :widths: 10,18,18 :align: left :class: longtable `HuggingFaceTB/SmolLM2-1.7B-Instruct`,`HuggingFaceTB/SmolLM2-1.7B-Instruct`,"`aidb.llama_config('HuggingFaceTB/SmolLM2-1.7B-Instruct', revision => 'main')`" `HuggingFaceTB/SmolLM2-135M-Instruct`,`HuggingFaceTB/SmolLM2-135M-Instruct`,"`aidb.llama_config('HuggingFaceTB/SmolLM2-135M-Instruct', revision => 'main')`" `HuggingFaceTB/SmolLM2-360M-Instruct`,`HuggingFaceTB/SmolLM2-360M-Instruct`,"`aidb.llama_config('HuggingFaceTB/SmolLM2-360M-Instruct', revision => 'main')`" `TinyLlama/TinyLlama-1.1B-Chat-v1.0`,`TinyLlama/TinyLlama-1.1B-Chat-v1.0`,"`aidb.llama_config('TinyLlama/TinyLlama-1.1B-Chat-v1.0', revision => 'main')`" すべてのLlamaバリアントは、テキスト生成\ ``aidb.decode_text()`` をサポートしています。 T5 ^^ .. csv-table:: :header: Model name,HuggingFace identifier,Config string :widths: 10,18,18 :align: left :class: longtable `t5-small`,`t5-small`,"`aidb.t5_config('t5-small', revision => 'main')`" `t5-base`,`t5-base`,"`aidb.t5_config('t5-base', revision => 'main')`" `t5-large`,`t5-large`,"`aidb.t5_config('t5-large', revision => 'main')`" T5バリアントは、テキストエンコード ``aidb.encode_text()`` とテキスト生成 ``aidb.decode_text()`` の両方をサポートしています。 !!!注これらは、AIDBで動作することが確認された事前審査されたバリアントです。これらに制限されません。互換性のあるHuggingFaceモデルは、適切な構成ヘルパーで使用できますが、ここにリストされているバリアントのみがEDBによってテストされています。 -------------- NIMモデル --------- AIDBは、複数のプロバイダーを介してNVIDIA NIMマイクロサービスをサポートしています。以下の表は、各プロバイダーの互換性のあるNIMモデルをリストしています。 **Default on HM** とマークされたモデルは、EDB Hybrid Managerのモデルサービングとともに出荷され、HM展開ですぐに利用できます。別の展開は必要ありません。 NIM補完 ``nim_completions`` ^^^^^^^^^^^^^^^^^^^^^^^^^^^ ``aidb.decode_text()`` 、\ ``aidb.decode_text_batch()`` をサポート .. csv-table:: :header: NIM model identifier,Default on HM :widths: 30,20 :align: left :class: longtable `nvidia/nemotron-3-nano`,OK `nvidia/llama-3.3-nemotron-super-49b-v1`,OK `ibm/granite-guardian-3.0-8b`,— `ibm/granite-3.0-8b-instruct`,— `ibm/granite-3.0-3b-a800m-instruct`,— `meta/llama-3.3-70b-instruct`,— `meta/llama-3.2-3b-instruct`,— `meta/llama-3.2-1b-instruct`,— `meta/llama-3.1-405b-instruct`,— `meta/llama-3.1-70b-instruct`,— `meta/llama-3.1-8b-instruct`,— `meta/llama3-70b-instruct`,— `meta/llama3-8b-instruct`,— `nvidia/llama-3.1-nemotron-70b-instruct`,— `nvidia/llama-3.1-nemotron-51b-instruct`,— `nvidia/nemotron-mini-4b-instruct`,— `nvidia/nemotron-4-340b-instruct`,— `google/shieldgemma-9b`,— `google/gemma-7b`,— `google/codegemma-7b`,— NIMエンベディング ``nim_embeddings`` ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ ``aidb.encode_text()`` 、\ ``aidb.encode_text_batch()`` をサポート .. csv-table:: :header: NIM model identifier,Default on HM :widths: 30,20 :align: left :class: longtable `nvidia/llama-3.2-nemoretriever-300m-embed-v1`,OK `nvidia/nv-embedqa-e5-v5`,— NIM CLIP ``nim_clip`` ^^^^^^^^^^^^^^^^^^^^^ ``aidb.encode_text()`` 、\ ``aidb.encode_text_batch()`` 、\ ``aidb.encode_image()`` をサポート .. csv-table:: :header: NIM model identifier,Default on HM :widths: 30,20 :align: left :class: longtable `nvidia/nvclip`,OK NIM OCR ``nim_paddle_ocr`` ^^^^^^^^^^^^^^^^^^^^^^^^^^ ``aidb.perform_ocr()`` をサポート .. csv-table:: :header: NIM model identifier,Default on HM :widths: 30,20 :align: left :class: longtable `baidu/paddleocr`,OK NIMリランキング ``nim_reranking`` ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ ``aidb.rerank_text()`` をサポート .. csv-table:: :header: NIM model identifier,Default on HM :widths: 30,20 :align: left :class: longtable `nvidia/llama-3.2-nv-rerankqa-1b-v2`,OK !!!注 **Default on HM** としてマークされたモデルは、EDB Hybrid Managerのモデルサービングによって事前展開されます。他のすべてのモデルは、KServeを使用してセルフホストし、\ ``aidb.create_model()`` を使用してAIDBに登録できます。セットアップ手順については、 :ref:`NVIDIA NIM ` を参照してください。