DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
一个 12B 的 Gemma 微调模型,把普通英语变成 constraint-kit CAD 系统用的零件与配合程序,请求超出范围时会如实说明,适合创客和工程师。
gemma-4-12b-constraintkit 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download shib79/gemma-4-12b-constraintkit-GGUF
gemma-4-12b-constraintkit 是 shib79 为 constraint-kit 微调的 Gemma 4 12B 模型,constraint-kit 是一个独立的开源文字转 CAD 系统。你用普通英语描述一个零件或装配体。模型先推理,再写一个小程序,列出零件、它们的参数和零件之间的配合。constraint-kit 随后生成精确的实体,求解装配,并导出 STEP 等文件。如果请求超出系统能建模的范围,模型会回复一条 unsupported 说明和理由,而不是乱猜。
如果你想要能对照真实几何结构检查的 CAD 输出,或者研究用验证器做训练,它适合你,机械工程师、创客和开发者尤其合适。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 工程 | 机械工程师 | 根据文字描述起草零件和装配体 | 要求三个垫片叠在一起 |
| 创客 | 爱好者 | 把想法变成 CAD 程序 | 描述一个零件,再用 constraint-kit 构建它 |
| AI 研究 | 研究人员 | 研究来自 CAD 验证器的奖励信号 | 对比监督阶段和 GRPO 阶段 |
如果你想让模型直接给出网格或成品图纸,可以跳过它,因为它写的是一个必须由 constraint-kit 编译的程序。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 文字转 CAD 程序 | 工程师 | 一个包含零件、参数和配合的程序 |
| 诚实地拒绝 | 需要信任的团队 | 对超出范围的请求给出带理由的 unsupported 回答 |
| 可见的推理 | 审阅者 | 每个程序之前的思考过程 |
| 通过 constraint-kit 导出 | 创客 | STEP 或 GLB 文件、零件清单、质量和图纸 |
你需要 Python 来下载,一个 llama.cpp 构建,以及放得下 9.8 GB 的 Q6_K GGUF 文件的空间。模型卡还提供一个 251 MB 的 LoRA 适配器,对应 unsloth 的 Gemma 4 12B 基础模型。仓库里有 train_sys.txt,是训练时使用的系统提示词。模型卡把它标为必需,因为训练从没用过别的提示词。
pip install -U huggingface_hub hf download shib79/gemma-4-12b-constraintkit-GGUF
llama-server -m gemma4-12b-constraintkit-grpo-Q6_K.gguf -c 8192 -ngl 99 --port 8086
服务器运行起来后,先发送 train_sys.txt 里的系统提示词,再发送你的请求。模型回复它的推理和一个程序,你把这个程序交给 constraint-kit。这里能看到的模型卡部分在服务器命令之后就结束了,所以请到完整的模型卡里查看准确的调用方式。
| 工具 | 作用 |
|---|---|
| hf download | 从仓库下载文件 |
| llama-server -m | 用模型文件启动服务器 |
| -c 8192 | 设置上下文大小 |
| -ngl 99 | 把模型的层放到 GPU 上 |
| --port 8086 | 设置服务器使用的端口 |
你要求三个叠放的垫片,每个直径 12 毫米,孔径 5 毫米,高 8 毫米。模型写出一个有三个垫片零件的程序,配合关系把每一个的顶部连到下一个的底部。如果你要一个螺旋锥齿轮,它会拒绝,并说只建模了直齿锥齿轮。
CAD 是计算机辅助设计,也就是画精确零件的软件。第一次小测试就是叠放垫片的请求,因为模型卡用的就是这类简单的例子。
训练分两个阶段,先是监督调优,然后是 GRPO,它用 CAD 验证器当奖励,没有奖励模型,也没有语言模型裁判。模型卡给一次构建打分的方式,是把它的体积和包围盒与留出的目标对比,容差为 2%。模型卡说 GRPO 把悄悄做错变体的构建减了一半,从 10 次里 2 次降到 10 次里 1 次,并把正确的拒绝提高到 10 次里 9 次。
作者报告,在监督阶段的留出测试上,93% 的构建通过了几何验证,87% 做到了诚实的拒绝。在新的请求上,诚实构建的比例是 57%,而提示词驱动的前沿模型是 16%。训练总共花了约 35 美元。这些是作者自己在小样本上做的测试,请当作需要核实的信号。模型卡里画廊的图片来自 constraint-kit 的托管规划器,而不是这个模型。
一个 12B 的 Gemma 微调模型,把普通英语变成 constraint-kit CAD 系统用的零件与配合程序,请求超出范围时会如实说明,适合创客和工程师。
由 shib79 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:gemma-4-12b-constraintkit 是 shib79 为 constraint-kit 微调的 Gemma 4 12B 模型,constraint-kit 是一个独立的开源文字转 CAD 系统。你用普通英语描述一个零件或装配体。模型先推理,再写一个小程序,列出零件、它们的参数和零件之间的配合。constraint-kit 随后生成精确的实体,求解装配,并导出 STEP 等文件。如果请求超出系统能建模的范围,模型会回复一条 unsupported 说明和理由,而不是乱猜。
适合谁:如果你想要能对照真实几何结构检查的 CAD 输出,或者研究用验证器做训练,它适合你,机械工程师、创客和开发者尤其合适。
Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
工程 | 机械工程师 | 根据文字描述起草零件和装配体 | 要求三个垫片叠在一起
创客 | 爱好者 | 把想法变成 CAD 程序 | 描述一个零件,再用 constraint-kit 构建它
AI 研究 | 研究人员 | 研究来自 CAD 验证器的奖励信号 | 对比监督阶段和 GRPO 阶段
如果你想让模型直接给出网格或成品图纸,可以跳过它,因为它写的是一个必须由 constraint-kit 编译的程序。
用在哪里:
Title: Jobs it does
用途 | 适合谁 | 得到什么
文字转 CAD 程序 | 工程师 | 一个包含零件、参数和配合的程序
诚实地拒绝 | 需要信任的团队 | 对超出范围的请求给出带理由的 unsupported 回答
可见的推理 | 审阅者 | 每个程序之前的思考过程
通过 constraint-kit 导出 | 创客 | STEP 或 GLB 文件、零件清单、质量和图纸
如何设置:你需要 Python 来下载,一个 llama.cpp 构建,以及放得下 9.8 GB 的 Q6_K GGUF 文件的空间。模型卡还提供一个 251 MB 的 LoRA 适配器,对应 unsloth 的 Gemma 4 12B 基础模型。仓库里有 train_sys.txt,是训练时使用的系统提示词。模型卡把它标为必需,因为训练从没用过别的提示词。
pip install -U huggingface_hub
hf download shib79/gemma-4-12b-constraintkit-GGUF
llama-server -m gemma4-12b-constraintkit-grpo-Q6_K.gguf -c 8192 -ngl 99 --port 8086
如何使用:服务器运行起来后,先发送 train_sys.txt 里的系统提示词,再发送你的请求。模型回复它的推理和一个程序,你把这个程序交给 constraint-kit。这里能看到的模型卡部分在服务器命令之后就结束了,所以请到完整的模型卡里查看准确的调用方式。
Title: Main command pieces
工具 | 作用
hf download | 从仓库下载文件
llama-server -m | 用模型文件启动服务器
-c 8192 | 设置上下文大小
-ngl 99 | 把模型的层放到 GPU 上
--port 8086 | 设置服务器使用的端口
示例:你要求三个叠放的垫片,每个直径 12 毫米,孔径 5 毫米,高 8 毫米。模型写出一个有三个垫片零件的程序,配合关系把每一个的顶部连到下一个的底部。如果你要一个螺旋锥齿轮,它会拒绝,并说只建模了直齿锥齿轮。
新手与专家:CAD 是计算机辅助设计,也就是画精确零件的软件。第一次小测试就是叠放垫片的请求,因为模型卡用的就是这类简单的例子。
训练分两个阶段,先是监督调优,然后是 GRPO,它用 CAD 验证器当奖励,没有奖励模型,也没有语言模型裁判。模型卡给一次构建打分的方式,是把它的体积和包围盒与留出的目标对比,容差为 2%。模型卡说 GRPO 把悄悄做错变体的构建减了一半,从 10 次里 2 次降到 10 次里 1 次,并把正确的拒绝提高到 10 次里 9 次。
普通英语请求
模型先推理,再写程序
constraint-kit 求解配合
STEP 或 GLB 文件、零件清单、质量、图纸
注意事项:作者报告,在监督阶段的留出测试上,93% 的构建通过了几何验证,87% 做到了诚实的拒绝。在新的请求上,诚实构建的比例是 57%,而提示词驱动的前沿模型是 16%。训练总共花了约 35 美元。这些是作者自己在小样本上做的测试,请当作需要核实的信号。模型卡里画廊的图片来自 constraint-kit 的托管规划器,而不是这个模型。
Title: Honest builds on fresh requests, in percent
这个模型: 57
提示词驱动的前沿模型: 16
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download shib79/gemma-4-12b-constraintkit-GGUF
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| gemma-4-12b-constraintkit 本页 | 524 | 9 | 11.9B | apache-2.0 | |
| Qwen3.5-4B-3D-Coder共有 3d · gguf · safetensors | 392,582 | 1,067 | 4.5B | apache-2.0 | |
| CCORE GLB-3D-Coder共有 3d · gguf · safetensors | 51,914 | 344 | 4.5B | apache-2.0 | |
| Qwen3.5-4B-3D-Coder-MTP-Repacked共有 3d · gguf · safetensors | 6,042 | 16 | 4.7B | apache-2.0 | |
| Qwen3.5-4B-3D-Html共有 3d · gguf · safetensors | 1,735 | 5 | 4.2B | apache-2.0 | |
| Qwen3.5-4B-3D-Coder-GGUF共有 3d · gguf | 9,492 | 13 | 4.2B | apache-2.0 |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。