开发者 AI 技能与智能体

Qwen3-1.7B-GGUF

Qwen · 工具包

提供 Qwen3 1.7B 小型对话模型的 q8_0 GGUF 文件，供 llama.cpp 使用，可在思考与非思考回复之间切换。适合想要轻量本地助手的人。

Qwen3-1.7B-Base

Qwen · 工具包

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

Qwen3-1.7B

Qwen · 工具包

一个紧凑的 1.7B 聊天模型，可在用于推理的思考模式和用于对话的快速模式之间切换。适合想用小型开放模型做聊天、翻译和智能体功能的开发者。

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Qwen2.5-Coder-14B-Instruct

Qwen · 工具包

一个 14.8B 参数、按指令调优的代码模型，能根据简单请求编写、解释和修复代码，通过 transformers 库运行。适合想自己托管模型的开发者。

Qwen2.5-7B-Instruct

Qwen · 工具包

这是一个 7.6B 参数的指令微调模型，能聊天、写代码、做数学题并输出结构化 JSON，上下文最长 131,072 个 token。适合需要在单台电脑上运行小型开源模型的开发者。

Qwen2 0.5B Instruct

Qwen · 工具包

Qwen 出品的小型 494M 参数聊天模型，能遵循指令，BF16 权重约 988 MB，通过 Transformers 运行。适合需要轻量模型做测试或简单任务的开发者。

Qwen3.8-27B-QSA-GSQ-RCO-GGUF

pentacoxian-dev · 工具包

在一块 24 GB 的 GPU 上，以 262K token 的上下文和图片输入运行带稀疏注意力的 Qwen3.8-27B，是 GGUF 文件，适合有定制版 llama.cpp 引擎的人。

NousCoder-14B

NousResearch · 工具包

为竞赛编程题写代码的模型，在 Qwen3-14B 基础上用强化学习继续训练，训练题共 24k 道，答案都可以检验。适合想在自己电脑上运行代码模型的开发者。

Qwen3.5-0.8B-weight-space-programming-GGUF

NotCherry · 工具包

把 Qwen3.5-0.8B weight-space-programming 模型打包成适用于 llama.cpp 的 GGUF 文件，包括 4 位文本模型和用于图像输入的独立视觉投影文件。

Qwen3.8-27B-CodeForge-3xMerge i1 GGUF

mradermacher · 工具包

Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版，大小约 11 GB 到 22.5 GB，用于本地运行。适合在自己电脑上运行 27B 模型的人。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Qwen3.5-9B-OptiQ-4bit

mlx-community · 工具包

Qwen3.5-9B 的 4-bit 混合精度 MLX 版本，用于在 Apple Silicon 上本地生成文本，自带多词元预测头。适合在 Mac 上本地运行模型的人。

Qwen3.5-4B-Router-1M

MaziyarPanahi · 工具包

返回校准概率的小型决策模型，判断智能体下一步该做什么以及该调用哪个工具。适合构建智能体和客服机器人的开发者。

Qwen3.5-4B-Judge-1M

MaziyarPanahi · 工具包

返回校准概率的小型裁判模型，判断回复是否有来源支撑、文本是否不安全，以及属于哪个任务或领域。适合给 AI 流程加检查的开发者。

Temper-2-Nodel

maylore-ai · 工具包

42 亿参数的 Rust 编程模型，基于 Qwen3.5-4B，能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。

SpatialLM1.1-Qwen-0.5B

manycore-research · 工具包

读取 3D 点云并写出结构化的场景布局，包含墙、门、窗和带标签的物体框。适合从事机器人、导航和 3D 场景理解的研究人员和开发者。

Qwen3.6-35B-A3B lododo-Distill-v1.0 (GGUF)

lododoai · 工具包

一个可在本地运行的文本模型，是 Qwen3.6-35B-A3B 的微调版本，用 Qwen3.8-27B 生成的数据训练，打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。

Qwen3.8-27B-Fable-5-Coding-Distilled

khazarai · 工具包

在提出修复方案前先检查真实文件，来调试和评审代码。这是 Qwen3.8-27B 的微调版，用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。

Qwen3.8-27B-SLQ-GGUF

kaitchup · 工具包

用自定义的统计无损量化，把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。