来自 Hugging Face 的 AI 项目

Swift 1.5 Ornith 9B GGUF

ukisai · 工具包

以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B，这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。

Qwen3.8-9B-Distill

empero-ai · 工具包

逐步推理数学、代码和一般问题，每个回答都以思考块开头。这是用更大的 Qwen3.8 教师模型的轨迹训练出的 9B Qwen3.5 模型，适合单张 GPU 使用。

Qwen3.5-4B-3D-Coder-GGUF

prithivMLmods · 工具包

用早期预览版 Qwen3.5-4B 微调模型的 GGUF 副本写代码，并生成自包含的 Three.js 交互 3D 场景页面。适合在本地做 3D 场景原型的开发者。

EarthJev

dBenf · 工具包

回答关于卫星图像块的类型化问题，使用 Sentinel-2 的全部 12 个波段，为每个选项返回概率，不生成文字。这是 Qwen3.5-0.8B 的微调版本，适合地球观测研究者。

d3-turbo

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择、是非、打分、框选和跟踪类问题，并为每个答案给出概率。适合构建路由或视觉检查的人。

d3-nano

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案给出概率。适合做路由和分诊的工程师使用的 2B 决策模型。

d3-edge

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案返回概率。适合做路由和分诊的工程师使用的小型决策模型。

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Qwen3.6-27B-GGUF

unsloth · 工具包

在本地处理智能体编码和图文任务，是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件，支持思考保留和长上下文。适合运行本地编码智能体的开发者。

Qwen3.5-4B-MTP-GGUF

unsloth · 工具包

Unsloth 制作的带多 token 预测的 Qwen3.5-4B 的 GGUF 文件，让 llama.cpp 使用推测解码，生成速度约快 1.5 到 2 倍。适合在本地运行小型多模态模型的人。

Torchcast Decision 4B

torchcast-ai · 工具包

基于 Qwen3.5-4B 的 4B 决策模型，一次推理就返回是非概率、选项分布和分数分布，不生成文本。适合英文分类、路由和评分标准检查。

MiMo-V2.6-Distill-Qwen-9B-GSQ-RCO-GGUF

sainez · 工具包

把一个 9B 的编程和工具调用模型做成一个 3.64 GiB 的 GGUF 文件，以约 3.5 比特每权重量化，方便在你自己的机器上运行。

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen-Image-Bench

Qwen · 工具包

名为 Q-Judger 的评审模型，对照提示词给 AI 生成的图像打分，涵盖五组标准，并以 JSON 回复。适合测试文生图模型的人。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

pplx-decider-v1.1-27b

perplexity-ai · 工具包

根据文字和图片为一个决策挑出最合适的选项，比如哪个团队应该处理一条请求，并给出每个选项的概率，适合构建分流和审核工作流的开发者。

NuExtract3

numind · 工具包

以文本或图像读取文档，按你要的字段填写 JSON 模板，或把页面转成 Markdown。这是一个 4B 模型，适合处理扫描件、表单和发票的团队。

clef-flash-4bit

mlx-community · 工具包

Cloudflare 的 clef-flash 的 4 位 MLX 版本，在 Apple Silicon Mac 上把一个状态和带类型的问题变成每个允许答案的概率。不是聊天模型。用自带的加载器在本地运行。

Qwen3.8-27B-MLX-8bit

lmstudio-community · 工具包

在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型，适合想在本地回答图片问题的人。