AI 智能体技能、规则与提示词工具包

DeepSeek-V4.1-Flash-1017-TrellisMX-FLARE

JMNI-Labs · 工具包

用压缩的 TrellisMX 包，在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Sarvam-30B

sarvamai · 工具包

Sarvam AI 的混合专家语言模型，总参数 322 亿，每个词元激活 24 亿，面向英语和多种印度语言的实际使用。模型卡的示例代码需要 NVIDIA 显卡。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

Limite 1B - Violetto

paradigma-inc · 工具包

用一个从头训练的 1B 参数模型解决难度很高的数学题，追求高速、大批量的推理。适合在 NVIDIA GPU 上运行数学任务的开发者。

Parakeet RNNT 1.1B

nvidia · 工具包

把英文语音转写成小写文本。由 NVIDIA NeMo 和 Suno.ai 团队开发的 1.1B FastConformer Transducer 模型，适合给应用加入语音识别的开发者。

DeepSeek-V4.1-Flash-NVFP4

nvidia · 工具包

读取文本和图像并输出文本，是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。

DeepSeek-V4.1-Flash-1017-FLARE

local-inference-lab · 工具包

为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包，支持文本和图片，提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。

GLaDOS_TTS

DavesArmoury · 工具包

面向 NVIDIA NeMo 的 GLaDOS 文字转语音声音，附带转换成 Riva 文件并在 Jetson 上部署的步骤，适合在 NVIDIA 硬件上做语音项目的人。

Orukeet

oruk · 工具包

转写 25 种语言的语音，是 NVIDIA Parakeet TDT 模型的改造版，在作者的测试中词错误率更低。适合批量或实时转写录音的团队。

Flint NVFP4 GGUF

RecursiveSI · 工具包

Recursive Flint 文本模型的 4-bit NVFP4 单文件 GGUF 版本，通过 llama.cpp 在 NVIDIA GPU 上运行。适合用 pi 或 OpenCode 在本地跑大模型的开发者。

RFD4-Proteina

nvidia · 工具包

围绕你指定的结合靶点、酶基序或配体，同时设计蛋白质序列和全原子结构。这是 Baker Lab 和 NVIDIA 的研究模型，面向分子设计人员。

NVIDIA NemotronLabs RE-USE-laughter

nvidia · 工具包

清理多语言的嘈杂语音录音，同时保留笑声。这是一个 9.6M 参数的语音增强模型，适合修音频的创作者和准备语音数据集的研究人员。

Comet 60B

MultiverseComputingCAI · 工具包

Multiverse Computing 的 61.1B 多模态模型，是 NVIDIA Nemotron 3.5 Super 的压缩版本，接收文本、图像和视频，并保持约 12B 参数被激活。适合想用更少 GPU 通过 vLLM 部署大型开放模型的团队。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

Hydrogen-1.0 NVFP4

deep-principle · 工具包

Hydrogen-1.0 的 4-bit NVFP4 版本，这是 Deep Principle 的 381B 科学与研究助手模型，基于 GLM-5.3。需要多 GPU 的 NVIDIA Blackwell 服务器，上下文为 1M 词元。

Ling-3.1-flash-DSpark

AQ-MedAI · 工具包

一个小型草稿模型，通过 SGLang 里的推测解码加速 Ling-3.1-Flash，每次草拟 5 个或 7 个 token。适合在 NVIDIA GPU 上部署 Ling-3.1-Flash 的团队。

ZONOS2

Zyphra · 工具包

把文字转成 30 多种语言的自然语音，能根据样本克隆声音，采用混合专家模型以实现低延迟。可以在带 NVIDIA GPU 的 Linux 机器上本地运行。

DeepSeek-V4.1-Flash-1017-NVFP4

nvidia · 工具包

NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本，一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。