来自 Hugging Face 的 AI 项目

Ornith-1.5-35B-A3B-NVFP4

ornith-ai · 工具包

能写代码、处理终端智能体任务，是每个 token 约用 3B 参数的混合专家模型，这里是 NVFP4 版本。适合想在自己硬件上部署编程模型的开发者。

MiMo-V2.6-Pro-MOPD

XiaomiMiMo · 工具包

用 1T 参数的混合专家模型处理文本、图像、视频和音频，并经过调教，在智能体工作中更少重复调用工具。适合能托管超大模型的团队。

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

DeepSeek-V4.1-Flash-NVFP4

nvidia · 工具包

读取文本和图像并输出文本，是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。

Qwen3.8-27B Fable-5 Coding Distilled GGUF

mradermacher · 工具包

一个 27.3B、经过编程蒸馏的 Qwen3.8 模型的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行编程模型、需要一个放得进内存的尺寸的开发者。

VulnLLM-R-7B-8bit

mlx-community · 工具包

通过 mlx-lm 运行 VulnLLM-R-7B 的 8 位 MLX 版本，用于文本生成。适合想在本地试用该模型的开发者。模型卡没有说明它的训练用途。

Qwen3.8-27B-MLX-8bit

lmstudio-community · 工具包

在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型，适合想在本地回答图片问题的人。

Qwen3.8-27B-oQ8e-mtp

Jundot · 工具包

把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点，带视觉编码器和 MTP 头，用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。

Qwen3.8-27B Splash 8-bit

dmeight · 工具包

在 Apple silicon 的 LM Studio 里，通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包，比 4-bit 版本更接近原始模型，但速度更慢。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

Beam-1.0-501B-A23B-NVFP4

reflection · 工具包

这个模型读写文本，上下文 1M 个 token，主打编程、智能体调用工具和数学推理，是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。

gpt-oss-safeguard-20b

openai · 工具包

按你写的安全策略对文本分类，并展示推理过程。适合信任与安全团队过滤模型输入输出，以及在线或离线给内容打标签。

gpt-oss-safeguard-120b

openai · 工具包

根据你写的安全政策给文本分类，并展示每个决定背后的推理。适合过滤或标注内容的信任与安全团队。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Slonik-27B-oQ8-mtp

kakoka · 工具包

用一个 27B 编码模型帮你编写和修改 PostgreSQL 源代码，8 位量化，可通过 oMLX 在 Apple Silicon Mac 上本地运行。适合想要本地助手的 PostgreSQL 开发者。

Qwen3-Reranker-0.6B-Q8_0-GGUF

ggml-org · 工具包

按与查询的相关度给段落排序，是 Qwen3 0.6B 重排序模型的 8-bit GGUF 副本，用 llama.cpp 制作。适合想要小型本地重排序模型来做搜索的开发者。

DeepSeek-V4-Pro

deepseek-ai · 工具包

用一个 1.6T 参数的混合专家模型生成文字，每个令牌激活 49B，最多可读入一百万个令牌。这是 DeepSeek 的预览版，适合能放下约 1,599 GB 权重的团队。

Hydrogen-1.0 NVFP4

deep-principle · 工具包

Hydrogen-1.0 的 4-bit NVFP4 版本，这是 Deep Principle 的 381B 科学与研究助手模型，基于 GLM-5.3。需要多 GPU 的 NVIDIA Blackwell 服务器，上下文为 1M 词元。

Hydrogen-1.0-MXFP4

deep-principle · 工具包

Deep Principle 的 384B 科学助手 Hydrogen-1.0 的 MXFP4 量化版本，面向 AMD Instinct 硬件。适合想用文本模型处理科学问题和研究规划的实验室。