来自 Hugging Face 的 AI 项目

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

MiMo-V2.6-Flash-RL-NVFP4

primitive-ai · 工具包

为 Blackwell GPU 提供小米 MiMo-V2.6-Flash-RL 的 NVFP4 版本，专家权重值与官方发布完全一致，在两块 96 GB 显卡上吞吐更高。适合自托管大模型的人。

RunsOnMine

prajwalpujari16 · 工具包

一个浏览器端的 LLM 服务基准注册表，数据取自消费级 GPU，双 Tesla T4 和 RTX 3050 笔记本，带并发扩展曲线，还能提交你自己的测量结果。