DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
减少长时间智能体任务里被浪费的推理,是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本,Python 格式更好。适合在本地跑智能体循环的人。
Qwopus3.8-27B-Flash-V2-GGUF 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Jackrong/Qwopus3.8-27B-Flash-V2-GGUF
这个仓库放的是 Qwopus3.8-27B-Flash-V2 的 GGUF 文件,它是对 Jackrong 的 Flash 模型做的第二轮后训练,而 Flash 模型建立在 Qwen/Qwen3.8-27B 上。它保留了第一版 Flash 的目标:用更少的浪费推理完成要求高的任务。V2 使用了不同的奖励和强化学习方法。
它适合在自己硬件上运行编程或会用工具的智能体、并希望每一轮推理更短的人。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 智能体构建者 | 在本地模型上跑读取、思考、调用工具和编辑的循环 | 一个能编辑并测试文件的编程智能体 |
| AI 爱好者 | 本地模型用户 | 选一个为快速、干净地完成而调过的模型 | 聊天时轮与轮之间等得更少 |
| 研究 | 机器学习研究者 | 研究新的奖励如何改变推理长度 | 把 V2 和第一版 Flash 对比 |
| 运维 | 平台团队 | 在速度和内存都有限的地方部署模型 | 回答简洁的内部助手 |
如果你需要尽可能长的推理过程,可以跳过它,因为它的目标是更短的推理。
| 使用场景 | 适合谁 | 能得到什么 |
|---|---|---|
| 智能体循环 | 智能体构建者 | 更快的每一轮,失控式推理更少 |
| Python 编程 | 开发者 | 格式更干净的代码,这正是 V2 想改进的 |
| 本地聊天 | 爱好者 | 英文、中文、西班牙文、俄文或日文的回复 |
你需要装有 pip 的 Python,以及能加载 GGUF 文件的程序。
pip install -U huggingface_hub hf download Jackrong/Qwopus3.8-27B-Flash-V2-GGUF
模型加载好以后,你可以和它聊天,或者让智能体工具在循环里调用它。卡片把这个循环描述为读取、思考、调用工具、观察、编辑和测试。
你接上一个编程智能体,让它加一个小功能并运行测试。智能体会读代码、思考、调用工具并编辑。卡片说 V2 完成时 Python 格式应该更干净。
智能体会多次调用模型,所以慢的轮次会越积越多。卡片举了个例子:每轮多五秒,一个 50 轮的任务就多出 250 秒。第一件可以试的小事,是上面的下载命令。
V2 从第一版 Flash 模型出发,再用新的奖励和不同的强化学习方法做一轮后训练。它继承了早先的监督阶段,那一阶段从约 150 万个教师样本开始,保留了最好的 10%。卡片强调,只有任务仍然正确完成时,更短的推理过程才有用。
减少长时间智能体任务里被浪费的推理,是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本,Python 格式更好。适合在本地跑智能体循环的人。
由 Jackrong 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这个仓库放的是 Qwopus3.8-27B-Flash-V2 的 GGUF 文件,它是对 Jackrong 的 Flash 模型做的第二轮后训练,而 Flash 模型建立在 Qwen/Qwen3.8-27B 上。它保留了第一版 Flash 的目标:用更少的浪费推理完成要求高的任务。V2 使用了不同的奖励和强化学习方法。
适合谁:它适合在自己硬件上运行编程或会用工具的智能体、并希望每一轮推理更短的人。
行业 | 谁在用 | 怎么用 | 例子
软件 | 智能体构建者 | 在本地模型上跑读取、思考、调用工具和编辑的循环 | 一个能编辑并测试文件的编程智能体
AI 爱好者 | 本地模型用户 | 选一个为快速、干净地完成而调过的模型 | 聊天时轮与轮之间等得更少
研究 | 机器学习研究者 | 研究新的奖励如何改变推理长度 | 把 V2 和第一版 Flash 对比
运维 | 平台团队 | 在速度和内存都有限的地方部署模型 | 回答简洁的内部助手
如果你需要尽可能长的推理过程,可以跳过它,因为它的目标是更短的推理。
用在哪里:
使用场景 | 适合谁 | 能得到什么
智能体循环 | 智能体构建者 | 更快的每一轮,失控式推理更少
Python 编程 | 开发者 | 格式更干净的代码,这正是 V2 想改进的
本地聊天 | 爱好者 | 英文、中文、西班牙文、俄文或日文的回复
如何设置:你需要装有 pip 的 Python,以及能加载 GGUF 文件的程序。
pip install -U huggingface_hub
hf download Jackrong/Qwopus3.8-27B-Flash-V2-GGUF
如何使用:模型加载好以后,你可以和它聊天,或者让智能体工具在循环里调用它。卡片把这个循环描述为读取、思考、调用工具、观察、编辑和测试。
示例:你接上一个编程智能体,让它加一个小功能并运行测试。智能体会读代码、思考、调用工具并编辑。卡片说 V2 完成时 Python 格式应该更干净。
新手与专家:智能体会多次调用模型,所以慢的轮次会越积越多。卡片举了个例子:每轮多五秒,一个 50 轮的任务就多出 250 秒。第一件可以试的小事,是上面的下载命令。
V2 从第一版 Flash 模型出发,再用新的奖励和不同的强化学习方法做一轮后训练。它继承了早先的监督阶段,那一阶段从约 150 万个教师样本开始,保留了最好的 10%。卡片强调,只有任务仍然正确完成时,更短的推理过程才有用。
Qwen3.8-27B 基础模型
带监督微调和强化的第一版 Flash
用不同奖励的新一轮训练
供本地运行程序使用的 GGUF 文件
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Jackrong/Qwopus3.8-27B-Flash-V2-GGUF
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwopus3.8-27B-Flash-V2-GGUF 本页 | 897,675 | 75 | 461M | apache-2.0 | |
| Qwopus3.8-27B-Flash-GGUF共有 vision · qwen · qwen3 | 2,153 | 248 | 461M | apache-2.0 | |
| Qwen3.8-27B-pi共有 vision · qwen · multimodal | 1,857 | 87 | 27.8B | apache-2.0 | |
| Qwen3-14B-GGUF共有 qwen · qwen3 · unsloth | 75,244 | 148 | 14.8B | apache-2.0 | |
| Qwen3-30B-A3B-GGUF共有 qwen · qwen3 · unsloth | 53,664 | 294 | 30.5B | apache-2.0 | |
| Qwen3.6-27B-GGUF共有 qwen · unsloth · qwen3_5 | 227,770 | 978 | 26.9B | apache-2.0 |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。