开发者 AI 技能与智能体

ttf-Qwen3.8-Flash-Next-GGUF

oguzeldereli · 工具包

用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next，比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。

ttf-Qwen3.8-27B-GGUF

oguzeldereli · 工具包

把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件，可在 12 GB 显卡上运行，有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。

Hermes 4 14B

NousResearch · 工具包

Nous Research 的 14B 混合推理模型，基于 Qwen3-14B。它可以逐步思考、调用工具，并返回符合模式的 JSON。使用 ChatML 提示格式。

Qwen3.5-4B-3D-Html

mondk · 工具包

一个 4.2B 的文本生成模型，由 Qwen3.5-4B 微调而来，用 Three.js 把 3D 场景写成一个独立的 HTML 文件。在浏览器里打开文件，用鼠标旋转模型。

MemT-1.0-Nano

MemTensor · 工具包

自带固定大小记忆状态的语言模型，基于 Qwen3.6-35B-A3B，无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。

Kev-4B

jaredpalmer · 工具包

读取一份文档和带类型的问题，一次计算就为每个答案选项返回校准过的概率，不生成文字。这是基于 Qwen3.5-4B 的决策模型，适合需要给文档分流、分诊或检查的开发者。

LFM2.5-2.6B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统，有 12 种推理模式和 12 种指令模式，在提示词里切换。2.7B 测试版，供本地运行。

Qwen3.8-27B-GGUF

bartowski · 工具包

bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本，从 Q8_0 到 3-bit，用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。

AsteroRank-Lepton

Asteromorph · 工具包

为每份文档与搜索查询的相关度打分，可附带上下文，用来重新排序搜索结果。这是基于 Qwen3.5 构建的 4B 开放权重重排序模型，适合科学和通用搜索。

Qwen3.5-9B-MTP-GGUF

unsloth · 工具包

Qwen3.5 9B 的 GGUF 版本，支持在 llama.cpp 里用多词元预测做推测解码，生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。

Qwen3.5-0.8B-GGUF

unsloth · 工具包

unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本，能读图片和文字并用文字回答。适合在本地做原型、微调和研究。

Qwen3.8-27B-exl3

turboderp · 工具包

Qwen3.8-27B 的 EXL3 量化版本，提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。

Qwen3.8-27B-1C

sweetand · 工具包

帮助 1C:Enterprise 平台上的开发者读取和修改 BSL 代码，并在 XML 导出里查找对象。这是以俄语为主的 Qwen3.8-27B 微调版本，这里提供 GGUF 格式。

strands-decider-2B-qwen3.5-v1-2610

StrandsAgents · 工具包

为智能体流程做快速决策：在选项中挑选，或按等级打分，每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。

Qwen3.8-27B IQR-V4

StillDeadcode · 工具包

把 Qwen3.8-27B 压缩成十五种大小，每个权重约 2.5 到 8 位，面向 AMD RDNA4 GPU 上的 radiance 引擎，内含图片读取和提速草稿器。

Qwen3.5-35B-A3B

Qwen · 工具包

能读图像和文字的多模态聊天模型，总参数 35B，每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。

Qwen3.5-27B

Qwen · 工具包

读取文字和图片并写出文字，是带视觉编码器的 27B Qwen 模型，原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。

Qwen3-Reranker-0.6B

Qwen · 工具包

为每个段落回答查询的程度打分，把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型，适合搭建搜索的开发者。

Qwen3-0.6B-Base

Qwen · 工具包

提供 Qwen3-0.6B-Base，这是 Qwen3 系列里小型的预训练基础模型，用 119 种语言训练，上下文 32k。适合要微调或研究微型语言模型的开发者。

Qwen Sharp Chat Templates

peculiar-ragdoll · 工具包

替换 Qwen3.5、3.6 和 3.8 模型的聊天模板，让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。