来自 Hugging Face 的 AI 项目

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Ornith-1.5-122B-NVFP4-DFlash2-RTX-Spark

Sherlock-Comms · 工具包

通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型，输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

DeepSeek-V4.1-Flash-1017-EXL3-franken-v100

philbert440 · 工具包

在八块 Tesla V100 32 GB 显卡上，以完整的 100 万词元上下文运行 DeepSeek V4.1 Flash，用的是 EXL3 专家包和 SM70 版 vLLM。适合拥有这类服务器的人。

Limite 1B - Violetto

paradigma-inc · 工具包

用一个从头训练的 1B 参数模型解决难度很高的数学题，追求高速、大批量的推理。适合在 NVIDIA GPU 上运行数学任务的开发者。

Leanstral 1.5 119B A6B

mistralai · 工具包

Mistral 为 Lean 4 证明助手推出的开源代码智能体模型。它能证明定理、修复 Lean 代码，支持文本和图像，可通过 Mistral API 或你自己的 vLLM 服务器运行。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

Qwen3.6-35B-A3B-2Bit-GSQ

ISTA-DASLab · 工具包

用 GSQ（Gumbel-Softmax 量化）制作的 Qwen3.6-35B-A3B 的 2 位量化副本，用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

ARK-ASR-3B

Edge0 · 工具包

用 Whisper 风格的音频编码器加 Qwen 解码器，把多种语言的语音转成文字。适合需要多语言转写的开发者和研究者，卡里给出了英文和中文的结果。

Qwen3.8-27B-NVFP4-DGX-SPARK

autotrust · 工具包

在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍，权重不变，只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

MiMo-V2.6-Flash-RL-NVFP4

primitive-ai · 工具包

为 Blackwell GPU 提供小米 MiMo-V2.6-Flash-RL 的 NVFP4 版本，专家权重值与官方发布完全一致，在两块 96 GB 显卡上吞吐更高。适合自托管大模型的人。

GLM-5.3-Flash EXL3 3.05bpw

albucino · 工具包

在两块 RTX 3090 和 128 GB 内存上本地运行 GLM-5.3-Flash，支持 262,144 词元的上下文，使用经过校验的 3.05 bpw EXL3 量化版本。适合在家里托管大模型的人。

DuplexJev-4B-Para

adventists-ai · 工具包

接收语音和文字，用文字作答，并判断说话的人是否已经说完。适合想要小型音频模型的语音智能体开发者，它还能识别情绪和重音。

Bielik-11B-v3.1-DFlash2

speakleash · 工具包

作为草稿模型与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。

Bielik-11B-v3.1-DFlash

speakleash · 工具包

作为 DFlash 草稿模型，与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 里做推测解码。它不是独立的语言模型。适合自己部署 Bielik 的人。

Laguna XS 2.1

poolside · 工具包

用一个 33B 的混合专家模型写代码、完成需要调用工具的长编程任务，每个词元只激活 3B 参数。适合在本地运行编程智能体的开发者。

gpt-oss-safeguard-20b

openai · 工具包

按你写的安全策略对文本分类，并展示推理过程。适合信任与安全团队过滤模型输入输出，以及在线或离线给内容打标签。

gpt-oss-safeguard-120b

openai · 工具包

根据你写的安全政策给文本分类，并展示每个决定背后的推理。适合过滤或标注内容的信任与安全团队。

Comet 60B

MultiverseComputingCAI · 工具包

Multiverse Computing 的 61.1B 多模态模型，是 NVIDIA Nemotron 3.5 Super 的压缩版本，接收文本、图像和视频，并保持约 12B 参数被激活。适合想用更少 GPU 通过 vLLM 部署大型开放模型的团队。

Voxtral 4B TTS 2603

mistralai · 工具包

Mistral 推出的开放权重文本转语音模型，提供九种语言的 20 个预设声音，支持流式输出，延迟低。适合构建语音智能体、且能接受非商业许可的开发者。

KAT-Coder-V2.5-Dev

Kwaipilot · 工具包

Kwaipilot 的开放权重编程模型，混合专家结构，总参数 35B，激活 3B，针对智能体编程做了调优，工具调用出错更少。可用于 transformers、vLLM 和 SGLang。

Qwopus3.8-27B-Coder-Flash

Jackrong · 工具包

写代码、调用工具，作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型，用约 200,000 条代码和推理样例训练，适合有强力 GPU 的开发者。

Qwen3.8-27B-DFlash2

incoai · 工具包

通过起草一整块 token 让主模型验证，来加速 Qwen3.8-27B，输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型，不是独立的聊天模型。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

Ling-3.1-flash-1019

inclusionAI · 工具包

处理科学和智能体任务，总参数 560B，激活参数 25B，上下文 1M token，在 Ling-3.1-flash 基础上进一步调优。服务示例使用多 GPU 服务器上的 SGLang 和 vLLM，采用 MIT 许可。

Qwen3.8-27B-Randean-MXFP4

flechin · 工具包

一个 27B 推理模型，经过微调后倾向于直接回答而不是含糊其辞，并量化为 MXFP4，让 vLLM 能在单块 32 GB GPU 上提供服务，适合运行本地推理和工具调用模型的开发者。

Jackrong_Qwopus3.8-27B-Coder-Flash-GGUF

bartowski · 工具包

bartowski 用重要性矩阵为 Jackrong 的 Qwopus3.8-27B-Coder-Flash 制作的 GGUF 量化版本，大小从 17 GB 到 55 GB。适合在本地用 llama.cpp 运行 27B 模型。

Qwen3.5-35B-A3B

Qwen · 工具包

能读图像和文字的多模态聊天模型，总参数 35B，每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。

Qwen Sharp Chat Templates

peculiar-ragdoll · 工具包

替换 Qwen3.5、3.6 和 3.8 模型的聊天模板，让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。

Mistral-7B-Instruct-v0.3

mistralai · 工具包

Mistral AI 的 7.2B 开源聊天模型，能遵循指令，还能调用你描述的函数。它由 Mistral-7B-v0.3 微调而来，可用 mistral_inference 或 transformers 运行。

MedErtas v0.1 27B LS

ErtasAI · 工具包

压缩到 22 GB 的开放权重医学语言模型，最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。

Qwen3.8-27B-DFlash2

z-lab · 工具包

一个草稿模型，通过提出一整块词元让主模型检查，来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。

d3-ultra

vllm-sr · 工具包

对同一份文本、图片或视频输入一次回答多个问题，为每个答案给出概率，不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。

Qwen3.6-35B-A3B-NVFP4

nvidia · 工具包

NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频，可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。

GLM-5.3-Flash-NVFP4

nvidia · 工具包

提供 NVIDIA 对 ZAI 的 GLM-5.3-Flash 做的 NVFP4 量化版，这是一个用于推理、编码和智能体任务的多模态模型。适合在 Blackwell GPU 上用 vLLM 或 SGLang 部署的开发者。

Qwen3.5-0.8B Astra Weight Edit

JonathanColetti · 工具包

直接编辑两个权重张量，不经训练，修复 Qwen3.5-0.8B 在思考模式下陷入的重复循环。这是一个小型图文模型，可用于 Transformers、vLLM、llama.cpp 和浏览器。

DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000

diffbot · 工具包

在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版，适合在自己硬件上部署大型编程和智能体模型的开发者。

OvisOCR3

ATH-MaaS · 工具包

用一个 0.8B 模型读取文档图片，返回文字、结构化 JSON、带公式和表格的 Markdown、关键字段和图表说明。适合构建 OCR 和文档流程的开发者。

Qwen3.8-27B-NVFP4

unsloth · 工具包

Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本，用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。

OpenJev

openjev · 工具包

针对文本、网页和截图回答带类型的决策，一次前向计算，根据你自己的标签给出选项、是非概率或分数。适合构建分流、审核和浏览器智能体的团队。

hs-decide-1-flash

hindsight-ai · 工具包

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

gpt-oss-120b

openai · 工具包

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

Qwen-Fixed-Chat-Templates

froggeric · 工具包

用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板，修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

ARC 1.0

rayline-ai · 工具包

读取智能体的对话，预测哪个模型会成功、会用多少词元、该花多少推理，让应用按质量和成本来路由请求。适合智能体开发者。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

S5-nano

maritaca-ai · 工具包

Maritaca AI 基于 Qwen3.5-4B 制作的葡萄牙语和英语小模型，有 Think 和 Instruct 两种模式，工具使用能力强，这是适用于 vLLM 和 SGLang 的 BF16 版本。适合构建巴西葡萄牙语助手的开发者。

mini-infer

prajwalpujari16 · 工具包

一个浏览器工作室，模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。

LLM VRAM Calculator

donaldJJ · 工具包

估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存，拆成权重、KV 缓存和额外开销，并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。