来自 Hugging Face 的 AI 项目

DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000

diffbot · 工具包

在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版，适合在自己硬件上部署大型编程和智能体模型的开发者。

OvisOCR3

ATH-MaaS · 工具包

用一个 0.8B 模型读取文档图片，返回文字、结构化 JSON、带公式和表格的 Markdown、关键字段和图表说明。适合构建 OCR 和文档流程的开发者。

Qwen3.8-27B-NVFP4

unsloth · 工具包

Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本，用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。

OpenJev

openjev · 工具包

针对文本、网页和截图回答带类型的决策，一次前向计算，根据你自己的标签给出选项、是非概率或分数。适合构建分流、审核和浏览器智能体的团队。

hs-decide-1-flash

hindsight-ai · 工具包

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

gpt-oss-120b

openai · 工具包

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

Qwen-Fixed-Chat-Templates

froggeric · 工具包

用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板，修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

ARC 1.0

rayline-ai · 工具包

读取智能体的对话，预测哪个模型会成功、会用多少词元、该花多少推理，让应用按质量和成本来路由请求。适合智能体开发者。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

S5-nano

maritaca-ai · 工具包

Maritaca AI 基于 Qwen3.5-4B 制作的葡萄牙语和英语小模型，有 Think 和 Instruct 两种模式，工具使用能力强，这是适用于 vLLM 和 SGLang 的 BF16 版本。适合构建巴西葡萄牙语助手的开发者。

mini-infer

prajwalpujari16 · 工具包

一个浏览器工作室，模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。

LLM VRAM Calculator

donaldJJ · 工具包

估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存，拆成权重、KV 缓存和额外开销，并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。