开发者 AI 技能与智能体

Assistant_Pepe_32B

SicariusSicariiStuff · 工具包

这是一个基于 Qwen3-32B 的 32.8B 参数英语模型，有 8B、32B 和 70B 三个版本。这里的模型卡文字只有页面样式，所以没有写明具体用途。适合已经在关注这个模型系列的人。

Jasper-K-35B-MoE

ragentile · 工具包

这个模型编写 GPU 内核，并通过在测试环境里反复尝试来提升速度。它是用强化学习从 Qwen3.6-35B-A3B 训练出来的混合专家模型，面向调优 GPU 代码的工程师。

Qwen3.5-4B-Base

Qwen · 工具包

这是一个只做过预训练的视觉语言基础模型，用于微调和上下文学习实验，不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。

Qwen3-4B-GGUF

Qwen · 工具包

一个 4B 的 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。

Qwen3-14B

Qwen · 工具包

这是一个 14.8B 参数的开源模型，难题用思考模式推理，日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

Qwen3.8-27B-Splash

incoai · 工具包

通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B，一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。

Qwen3.8-27B-Randean-MXFP4

flechin · 工具包

一个 27B 推理模型，经过微调后倾向于直接回答而不是含糊其辞，并量化为 MXFP4，让 vLLM 能在单块 32 GB GPU 上提供服务，适合运行本地推理和工具调用模型的开发者。

Qwen3.8-27B-Ridge-GGUF

empero-ai · 工具包

把 Qwen3.8-27B 压缩成每权重 3.7 位的 GGUF 文件来运行，适合 16 GB 的 GPU，还可选图像输入。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。

Qwen3-VL for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 文本编码器文件夹重新打包的 Qwen3-VL 4B 和 8B 模型文件，提供从 bf16 到 4-bit 风格的多种精度。适合需要 Qwen3-VL 文本编码器的 ComfyUI 用户。

Qwen3.6-35B-A3B 2-bit GSQ GGUF

chtisgit · 工具包

用 2-bit GSQ 的 GGUF 转换版运行 35B 的 Qwen 模型，另配一个单独的视觉投影器，供 llama.cpp 使用。适合想在 CPU 或普通显卡上用小文件跑大模型的人。

Qwen3.6-35B-A3B GGUF (ShapeLearn Quantized)

byteshape · 工具包

Qwen3.6-35B-A3B 的量化 GGUF 版本，能读图片和文字，有从约 9 GB 起的 CPU 和 GPU 变体，用 ByteShape 的 ShapeLearn 制作。适合运行 llama.cpp 的开发者。

Qwen3.6-35B-A3B-coding-reap50-GGUF

anik-jha · 工具包

用砍掉一半专家的 Qwen3.6-35B-A3B 写代码，打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。

Qwen3.5-2B-GGUF

unsloth · 工具包

unsloth 制作的 Qwen3.5-2B 小型 GGUF 版本，能读图片和文字并用文字回答。适合在本地做原型、微调和研究。

Qwen3.6-35B-A3B-FP8

Qwen · 工具包

读取文本和图像并输出文本，是 Qwen3.6-35B-A3B 的 FP8 版本，激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。

Qwen3.6-27B

Qwen · 工具包

Qwen 的 27B 模型，读取文字和图片并用文字回复，针对编程智能体和仓库级工作调校，适合用 transformers 库运行它的开发者。

Qwen3-Embedding-4B

Qwen · 工具包

把 100 多种语言的文字和代码变成向量，用于搜索、检索、分类和聚类，向量大小可调，还支持任务指令，适合构建搜索和 RAG 系统的开发者。

Qwen3-Coder-Next

Qwen · 工具包

作为编程智能体模型使用，总参数 80B、激活参数 3B，上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。

Qwen3-4B-Instruct-2507

Qwen · 工具包

用 4B 模型回答对话提示，不显示思考过程，可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。

Qwen3.5-0.8B-weight-space-programming-GGUF

prithivMLmods · 工具包

一个小型 Qwen3.5 0.8B 模型的 GGUF 版本，它的权重被直接修改以减少推理循环。适合想用多种量化大小在本地运行它的人。

ttf-Qwen3.8-Flash-Next-GGUF

oguzeldereli · 工具包

用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next，比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。

ttf-Qwen3.8-27B-GGUF

oguzeldereli · 工具包

把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件，可在 12 GB 显卡上运行，有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。

Hermes 4 14B

NousResearch · 工具包

Nous Research 的 14B 混合推理模型，基于 Qwen3-14B。它可以逐步思考、调用工具，并返回符合模式的 JSON。使用 ChatML 提示格式。

Qwen3.5-4B-3D-Html

mondk · 工具包

一个 4.2B 的文本生成模型，由 Qwen3.5-4B 微调而来，用 Three.js 把 3D 场景写成一个独立的 HTML 文件。在浏览器里打开文件，用鼠标旋转模型。

MemT-1.0-Nano

MemTensor · 工具包

自带固定大小记忆状态的语言模型，基于 Qwen3.6-35B-A3B，无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。

Kev-4B

jaredpalmer · 工具包

读取一份文档和带类型的问题，一次计算就为每个答案选项返回校准过的概率，不生成文字。这是基于 Qwen3.5-4B 的决策模型，适合需要给文档分流、分诊或检查的开发者。

LFM2.5-2.6B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统，有 12 种推理模式和 12 种指令模式，在提示词里切换。2.7B 测试版，供本地运行。

Qwen3.8-27B-GGUF

bartowski · 工具包

bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本，从 Q8_0 到 3-bit，用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。

AsteroRank-Lepton

Asteromorph · 工具包

为每份文档与搜索查询的相关度打分，可附带上下文，用来重新排序搜索结果。这是基于 Qwen3.5 构建的 4B 开放权重重排序模型，适合科学和通用搜索。

Qwen3.5-9B-MTP-GGUF

unsloth · 工具包

Qwen3.5 9B 的 GGUF 版本，支持在 llama.cpp 里用多词元预测做推测解码，生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。

Qwen3.5-0.8B-GGUF

unsloth · 工具包

unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本，能读图片和文字并用文字回答。适合在本地做原型、微调和研究。

Qwen3.8-27B-exl3

turboderp · 工具包

Qwen3.8-27B 的 EXL3 量化版本，提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。

Qwen3.8-27B-1C

sweetand · 工具包

帮助 1C:Enterprise 平台上的开发者读取和修改 BSL 代码，并在 XML 导出里查找对象。这是以俄语为主的 Qwen3.8-27B 微调版本，这里提供 GGUF 格式。

strands-decider-2B-qwen3.5-v1-2610

StrandsAgents · 工具包

为智能体流程做快速决策：在选项中挑选，或按等级打分，每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。

Qwen3.8-27B IQR-V4

StillDeadcode · 工具包

把 Qwen3.8-27B 压缩成十五种大小，每个权重约 2.5 到 8 位，面向 AMD RDNA4 GPU 上的 radiance 引擎，内含图片读取和提速草稿器。

Qwen3.5-35B-A3B

Qwen · 工具包

能读图像和文字的多模态聊天模型，总参数 35B，每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。

Qwen3.5-27B

Qwen · 工具包

读取文字和图片并写出文字，是带视觉编码器的 27B Qwen 模型，原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。

Qwen3-Reranker-0.6B

Qwen · 工具包

为每个段落回答查询的程度打分，把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型，适合搭建搜索的开发者。

Qwen3-0.6B-Base

Qwen · 工具包

提供 Qwen3-0.6B-Base，这是 Qwen3 系列里小型的预训练基础模型，用 119 种语言训练，上下文 32k。适合要微调或研究微型语言模型的开发者。

Qwen Sharp Chat Templates

peculiar-ragdoll · 工具包

替换 Qwen3.5、3.6 和 3.8 模型的聊天模板，让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。

Qwen3.8-27B-4bit (MLX)

mlx-community · 工具包

Qwen3.8-27B 的 4 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行视觉语言模型的开发者。

Qwen3.8-27B-GGUF

lmstudio-community · 工具包

Qwen 的 Qwen3.8-27B 的 GGUF 量化版本，由 LM Studio 团队用 llama.cpp 制作，适合在自己电脑上运行 27B 模型的人。

Qwen3.8-27B QSA BF16

higa2515 · 工具包

在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重，附带参考用的 Transformers 加载器，适合研究或部署 Qwen Sparse Attention 的人。

Qwen3.8-2B-Distill-GGUF

empero-ai · 工具包

在手机、笔记本和单板计算机上运行小型 2B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp。

Qwen3.5 for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 文本编码器文件夹重新打包的 Qwen3.5 2B、4B 和 9B 模型文件，9B 提供 bf16 和两种量化风格。适合需要 Qwen3.5 文本编码器的 ComfyUI 用户。

Qwen3.8-27B-pi

bytkim · 工具包

为 Pi 智能体框架调优的 27B 编程模型，训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈，推理强度可调。适合运行编程智能体的开发者。

NorthCUA-Mini

beipo-ai · 工具包

读取截图和请求，然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型，激活参数 3B。

Qwen3.8-27B-DFlash2

z-lab · 工具包

一个草稿模型，通过提出一整块词元让主模型检查，来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。

Qwen3.5-2B

Qwen · 工具包

Qwen 的小型 2B 模型，读取文字和图片并用文字回复，适合用 transformers 库做原型、微调或研究的开发者。

Qwen3.6-35B-A3B-NVFP4

nvidia · 工具包

NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频，可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。