DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
zai-org 推出的 753B 参数开放文本模型,适合编程和智能体这类长链条多步工作,有 1M 词元上下文,采用 MIT 许可证。适合拥有大型 GPU 集群的团队。
GLM-5.2 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download zai-org/GLM-5.2
GLM-5.2 是 zai-org 最新的旗舰文本模型,为长链条任务而造。模型卡说它在 1M 词元上下文里依然稳定,并且在编程上比 GLM-5.1 有所提升。记录里列出 753B 参数、英文和中文,以及 MIT 许可证。
拥有大型 GPU 集群,想用开放权重模型做编程、推理和智能体工作的团队,以及通过托管 API 使用它的开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 用来做编程和智能体任务 | 一个请求完成整个仓库的修改 |
| 企业 | 平台团队 | 托管一个 MIT 许可证的开放模型 | 私有服务器上的内部助手 |
| 研究 | AI 实验室 | 研究大型稀疏注意力模型 | 和 GLM-5.1 对比 |
| 法律和金融 | 分析师 | 处理长文档 | 在一个上下文里读完一份长文件 |
如果你没有多 GPU 服务器,可以跳过它。BF16 权重约 1,507 GB,所以托管 API 是更轻松的入口。
| Use case | Who | What they get back |
|---|---|---|
| 编程 | 开发者 | 按所选强度编写和修改的代码 |
| 长上下文工作 | 分析师 | 跨越最多 1M 词元上下文的回答 |
| 智能体任务 | 开发者 | 多步的工具和终端操作 |
pip install -U huggingface_hub hf download zai-org/GLM-5.2
用列出的某个框架提供模型服务,再发送聊天请求。模型卡说 GLM-5.2 有多个思考强度,你可以在质量和速度之间取舍。
| Framework | Minimum version on the card |
|---|---|
| SGLang | 0.5.13.post1 |
| vLLM | 0.23.0 |
| Transformers | 0.5.12 |
| KTransformers | 0.5.12 |
| Unsloth | 0.1.47-beta |
你把一个很长的代码库贴进去,发给它一个编程任务,并选择高强度。它会逐步推理,再返回修改,用更多的时间换更仔细的推理。
如果你是新手,先试托管 API 或量化副本,因为这个模型对普通电脑来说太大了。别人已发布 148 个量化副本。
如果你懂这个领域,模型卡介绍了 IndexShare,它在每四个稀疏注意力层之间复用同一个索引器。它说这在 1M 上下文下把每个词元的 FLOPs 降低了 2.9 倍。它还说改进后的 MTP 层把推测解码的接受长度最多提高了 20%。
zai-org 推出的 753B 参数开放文本模型,适合编程和智能体这类长链条多步工作,有 1M 词元上下文,采用 MIT 许可证。适合拥有大型 GPU 集群的团队。
由 zai-org 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:GLM-5.2 是 zai-org 最新的旗舰文本模型,为长链条任务而造。模型卡说它在 1M 词元上下文里依然稳定,并且在编程上比 GLM-5.1 有所提升。记录里列出 753B 参数、英文和中文,以及 MIT 许可证。
适合谁:拥有大型 GPU 集群,想用开放权重模型做编程、推理和智能体工作的团队,以及通过托管 API 使用它的开发者。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 用来做编程和智能体任务 | 一个请求完成整个仓库的修改
企业 | 平台团队 | 托管一个 MIT 许可证的开放模型 | 私有服务器上的内部助手
研究 | AI 实验室 | 研究大型稀疏注意力模型 | 和 GLM-5.1 对比
法律和金融 | 分析师 | 处理长文档 | 在一个上下文里读完一份长文件
如果你没有多 GPU 服务器,可以跳过它。BF16 权重约 1,507 GB,所以托管 API 是更轻松的入口。
用在哪里:
Use case | Who | What they get back
编程 | 开发者 | 按所选强度编写和修改的代码
长上下文工作 | 分析师 | 跨越最多 1M 词元上下文的回答
智能体任务 | 开发者 | 多步的工具和终端操作
如何设置:
pip install -U huggingface_hub
hf download zai-org/GLM-5.2
如何使用:用列出的某个框架提供模型服务,再发送聊天请求。模型卡说 GLM-5.2 有多个思考强度,你可以在质量和速度之间取舍。
Framework | Minimum version on the card
SGLang | 0.5.13.post1
vLLM | 0.23.0
Transformers | 0.5.12
KTransformers | 0.5.12
Unsloth | 0.1.47-beta
示例:你把一个很长的代码库贴进去,发给它一个编程任务,并选择高强度。它会逐步推理,再返回修改,用更多的时间换更仔细的推理。
新手与专家:如果你是新手,先试托管 API 或量化副本,因为这个模型对普通电脑来说太大了。别人已发布 148 个量化副本。
如果你懂这个领域,模型卡介绍了 IndexShare,它在每四个稀疏注意力层之间复用同一个索引器。它说这在 1M 上下文下把每个词元的 FLOPs 降低了 2.9 倍。它还说改进后的 MTP 层把推测解码的接受长度最多提高了 20%。
最多 1M 词元的提示词
共享索引器的稀疏注意力
所选的思考强度
文字或代码回答
Title: SWE-bench Pro 分数
GLM-5.2: 62.1
GLM-5.1: 58.4
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download zai-org/GLM-5.2
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| GLM-5.2 本页 | 316,074 | 5,206 | 753B | mit | |
| Hydrogen-1.0 NVFP4共有 glm_moe_dsa · text-generation · conversational | 10,959 | 14 | 381B | mit | |
| Qwen3-0.6B共有 text-generation · conversational · transformers | 19,718,599 | 1,894 | 752M | apache-2.0 | |
| Qwen3-14B共有 text-generation · conversational · transformers | 12,965,376 | 540 | 14.8B | apache-2.0 | |
| Qwen2.5-7B-Instruct共有 text-generation · conversational · transformers | 6,364,238 | 2,494 | 7.6B | apache-2.0 | |
| Qwen3-8B共有 text-generation · conversational · transformers | 6,269,141 | 2,184 | 8.2B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。