来自 Hugging Face 的 AI 项目

Swift 1.5 Ornith 9B GGUF

ukisai · 工具包

以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B，这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。

Qwen3.8-9B-Distill

empero-ai · 工具包

逐步推理数学、代码和一般问题，每个回答都以思考块开头。这是用更大的 Qwen3.8 教师模型的轨迹训练出的 9B Qwen3.5 模型，适合单张 GPU 使用。

Qwen3.5-4B-3D-Coder-GGUF

prithivMLmods · 工具包

用早期预览版 Qwen3.5-4B 微调模型的 GGUF 副本写代码，并生成自包含的 Three.js 交互 3D 场景页面。适合在本地做 3D 场景原型的开发者。

EarthJev

dBenf · 工具包

回答关于卫星图像块的类型化问题，使用 Sentinel-2 的全部 12 个波段，为每个选项返回概率，不生成文字。这是 Qwen3.5-0.8B 的微调版本，适合地球观测研究者。

d3-turbo

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择、是非、打分、框选和跟踪类问题，并为每个答案给出概率。适合构建路由或视觉检查的人。

d3-nano

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案给出概率。适合做路由和分诊的工程师使用的 2B 决策模型。

d3-edge

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案返回概率。适合做路由和分诊的工程师使用的小型决策模型。

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Qwen3.6-27B-GGUF

unsloth · 工具包

在本地处理智能体编码和图文任务，是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件，支持思考保留和长上下文。适合运行本地编码智能体的开发者。

Qwen3.5-4B-MTP-GGUF

unsloth · 工具包

Unsloth 制作的带多 token 预测的 Qwen3.5-4B 的 GGUF 文件，让 llama.cpp 使用推测解码，生成速度约快 1.5 到 2 倍。适合在本地运行小型多模态模型的人。

Torchcast Decision 4B

torchcast-ai · 工具包

基于 Qwen3.5-4B 的 4B 决策模型，一次推理就返回是非概率、选项分布和分数分布，不生成文本。适合英文分类、路由和评分标准检查。

MiMo-V2.6-Distill-Qwen-9B-GSQ-RCO-GGUF

sainez · 工具包

把一个 9B 的编程和工具调用模型做成一个 3.64 GiB 的 GGUF 文件，以约 3.5 比特每权重量化，方便在你自己的机器上运行。

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen-Image-Bench

Qwen · 工具包

名为 Q-Judger 的评审模型，对照提示词给 AI 生成的图像打分，涵盖五组标准，并以 JSON 回复。适合测试文生图模型的人。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

pplx-decider-v1.1-27b

perplexity-ai · 工具包

根据文字和图片为一个决策挑出最合适的选项，比如哪个团队应该处理一条请求，并给出每个选项的概率，适合构建分流和审核工作流的开发者。

NuExtract3

numind · 工具包

以文本或图像读取文档，按你要的字段填写 JSON 模板，或把页面转成 Markdown。这是一个 4B 模型，适合处理扫描件、表单和发票的团队。

clef-flash-4bit

mlx-community · 工具包

Cloudflare 的 clef-flash 的 4 位 MLX 版本，在 Apple Silicon Mac 上把一个状态和带类型的问题变成每个允许答案的概率。不是聊天模型。用自带的加载器在本地运行。

Qwen3.8-27B-MLX-8bit

lmstudio-community · 工具包

在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型，适合想在本地回答图片问题的人。

Qwen3.8-27B-oQ8e-mtp

Jundot · 工具包

把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点，带视觉编码器和 MTP 头，用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。

Qwen3.8-27B-oQ4e-mtp

Jundot · 工具包

在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型，能读取文字、图片和视频，上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本，适合内存有限的人。

JDI-Decision-V0.9

JoyIndustrial · 工具包

用内置 OCR 的 Qwen3.8-27B 决策系统，针对图像和文字回答选择题式的问题，并给出各选项的概率。适合需要从图片得到结构化选择的开发者。

LongCap-35B-A3B-FP8

JinchuanTian · 工具包

把最长约两小时的录音变成带起止时间的语音、音乐和声音事件时间线，也能转写语音并标出说话人。FP8 权重，适合单张 H100 80GB 显卡。

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

Jackrong · 工具包

在 think 标签里一步步思考问题，是用推理链微调的 4B Qwen3.5 模型，以 GGUF 打包。适合想在自己电脑上运行小型推理模型的人。

MLX-Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-6bit

Jackrong · 工具包

以 MLX 格式、6 位运行一个只有 0.8B 的推理调优聊天小模型，转换自 Jackrong 的 Qwen3.5 蒸馏模型。适合想在 Mac 上用一个很小本地模型的人。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

H2O-Lightning-4B

h2oai · 工具包

回答关于文档、工单、政策或对话及其配图的类型化决策问题，并给每个选项一个概率。适合想用小模型来判断记录的团队。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

Kvark-Sparkle-1.0-27B

Egzakta · 工具包

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

Rukopys-OCR-4B

ebinan92 · 工具包

从图片中读取乌克兰语手写文档，找出每个文字区域、标注类型，并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。

Qwen3.8-27B Splash 8-bit

dmeight · 工具包

在 Apple silicon 的 LM Studio 里，通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包，比 4-bit 版本更接近原始模型，但速度更慢。

Surya OCR 2.5

datalab-to · 工具包

用 689M 参数的模型读取文档图像中的文字，还能找出文本行、版面块和阅读顺序。适合把扫描件和照片变成文字和 HTML 表格的开发者。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

Underdog-Woof-4B-1.1

ConwayResearch · 工具包

这是一个紧凑的 4.2B 文本生成模型，基于 Qwen 3 4B 后训练，更适配 Underdog 自己的配套环境，并量化为 4-bit MLX 格式。适合在非商业场景下运行小型本地模型的人。

Qwen3.8-27B-NVFP4-DGX-SPARK

autotrust · 工具包

在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍，权重不变，只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

Surya 2.5 GGUF

datalab-to · 工具包

从文档图像里读取文字、表格和版面，并以文字返回。这是 Surya 2.5 OCR 模型面向 llama.cpp 的 GGUF 版本，适合想在自己电脑上运行文档 OCR 的人。

Ara-JEV

AhmedReda25300 · 工具包

根据一段简短的阿拉伯语情境、一个问题和可选选项，挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。

Laplace-1-Atlas

JuneoAI · 工具包

通过一次推理给候选选项打分，帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型，权重以 Apache-2.0 开放。

Tessera-27B-B-CJK-RL

ZelligeAI · 工具包

用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环，每轮花更少的思考词元。适合自己托管大模型的开发者。

Qwen3.6-27B-MTP-GGUF

unsloth · 工具包

用 Qwen3.6 27B 写代码和推理，提供 Unsloth 制作的、带多词元预测的 GGUF 文件，卡片说回复能快约 1.5 到 2 倍，且不损失准确度。为编程智能体而做。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

GameScaling

THUSI-Lab · 工具包

基于 Qwen3.5-0.8B 的小型视觉语言模型，来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。

1-bit Bonsai 27B (MLX)

prism-ml · 工具包

在 Apple MLX 上运行一个每个权重压成 1 比特、约 3.9 GB 的 27B 级推理模型，上下文 262K 词元。适合想在手机或笔记本上用大模型的开发者。

pplx-embed-v2-late-0.6b

perplexity-ai · 工具包

用 ColBERT 风格的模型给查询与文本、图像和文档页面打分，每个词元保留一个小向量。适合为混合文档搭建搜索的开发者。

OneJev1.6-4B

OmniJev · 工具包

读取截图、照片、视频或文字和几个带类型的问题，一次运行就给每个答案选项打出概率。适合开发会看屏幕的智能体的人。

OneJev1.6-27B

OmniJev · 工具包

读取截图、照片、视频或文字，再结合你输入的问题，为每个答案选项给出概率，比如智能体下一步该做什么、任务是否完成。

OneJev1.6-0.8B

OmniJev · 工具包

针对截图、照片、视频或文字，回答你提的问题，并给出每个选项的概率。适合需要在智能体循环里快速做决定的开发者。