DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
用于编程、工具使用、问答、搜索和研究任务的文本模型,基于 Qwen3.6-35B-A3B,每个词元约用 3B 参数。适合开发者和研究者。
Apex-35B-V1.0 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Apexintelligence-AI/Apex-35B-V1.0
Apex-35B-V1.0 是 Apex Intelligence 的首次发布。它以 Qwen3.6-35B-A3B 为起点,并在该公司的私有数据和研究轨迹上再训练。它总共有 350 亿参数,每个词元约用 30 亿。
制作方把深度搜索、问答、工具使用和编程,与计算科学和机器人仿真方面的研究任务放在一起。卡片说它能配合 Claude Code 使用。
适合想自己运行编程和智能体模型的开发者,也适合想让模型规划计算并利用结果的研究者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 使用编程智能体的开发者 | 在智能体背后运行本地模型 | 让它处理一个代码仓库 |
| 研究 | 计算科学家 | 让模型规划并运行程序 | 根据执行反馈修正思路 |
| 机器人 | 仿真工程师 | 用它做仿真任务 | 处理一个机器人仿真问题 |
如果你需要图像输入或较小的下载量,可以跳过它,因为这是文本模型,完整权重也很大。
| Use case | Who | What they get back |
|---|---|---|
| 编程 | 开发者 | 在整个仓库里写出和修复的代码 |
| 深度搜索 | 分析师 | 由搜索和工具使用得出的回答 |
| 科研计算 | 科学家 | 写好并运行的程序,并根据结果修正思路 |
pip install -U huggingface_hub hf download Apexintelligence-AI/Apex-35B-V1.0
在运行时里加载模型并聊天,或把它接到编程智能体上。它每一轮自己决定要不要推理、推理多久,不用切换模式。
| Property | Apex-35B-V1.0 |
|---|---|
| 总参数 | 35B |
| 每个词元激活 | 约 3B |
| 上下文窗口 | 262,144 词元,提示和回复合在一起用 |
| GGUF 版本 | BF16 加 28 种量化,放在另一个仓库 |
你把模型接到一个编程智能体,指向一个代码仓库。它在任务需要时进行推理、调用工具,并随着结果回来修正自己的工作。
如果你刚接触这个,先在本地运行器里用 GGUF 版本,这样下载量小一些,并先问一个简短的编程问题。
如果你熟悉这个领域,它是稀疏的混合专家模型,长上下文由提示和回复共用。制作方介绍了一个自动化研究系统,它帮助构建训练数据、运行实验和调优 GPU 内核。
用于编程、工具使用、问答、搜索和研究任务的文本模型,基于 Qwen3.6-35B-A3B,每个词元约用 3B 参数。适合开发者和研究者。
由 Apexintelligence-AI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Apex-35B-V1.0 是 Apex Intelligence 的首次发布。它以 Qwen3.6-35B-A3B 为起点,并在该公司的私有数据和研究轨迹上再训练。它总共有 350 亿参数,每个词元约用 30 亿。
制作方把深度搜索、问答、工具使用和编程,与计算科学和机器人仿真方面的研究任务放在一起。卡片说它能配合 Claude Code 使用。
适合谁:适合想自己运行编程和智能体模型的开发者,也适合想让模型规划计算并利用结果的研究者。
Industry | Who uses it | How they use it | Example
软件 | 使用编程智能体的开发者 | 在智能体背后运行本地模型 | 让它处理一个代码仓库
研究 | 计算科学家 | 让模型规划并运行程序 | 根据执行反馈修正思路
机器人 | 仿真工程师 | 用它做仿真任务 | 处理一个机器人仿真问题
如果你需要图像输入或较小的下载量,可以跳过它,因为这是文本模型,完整权重也很大。
用在哪里:
Use case | Who | What they get back
编程 | 开发者 | 在整个仓库里写出和修复的代码
深度搜索 | 分析师 | 由搜索和工具使用得出的回答
科研计算 | 科学家 | 写好并运行的程序,并根据结果修正思路
如何设置:
pip install -U huggingface_hub
hf download Apexintelligence-AI/Apex-35B-V1.0
如何使用:在运行时里加载模型并聊天,或把它接到编程智能体上。它每一轮自己决定要不要推理、推理多久,不用切换模式。
Property | Apex-35B-V1.0
总参数 | 35B
每个词元激活 | 约 3B
上下文窗口 | 262,144 词元,提示和回复合在一起用
GGUF 版本 | BF16 加 28 种量化,放在另一个仓库
Title: 权重大小,单位 GB
BF16 权重: 71.9 GB
最大的 GGUF,Q8_0: 37.8 GB
4 位估算: 18 GB
最小的 GGUF,IQ1_S: 9.0 GB
示例:你把模型接到一个编程智能体,指向一个代码仓库。它在任务需要时进行推理、调用工具,并随着结果回来修正自己的工作。
新手与专家:如果你刚接触这个,先在本地运行器里用 GGUF 版本,这样下载量小一些,并先问一个简短的编程问题。
如果你熟悉这个领域,它是稀疏的混合专家模型,长上下文由提示和回复共用。制作方介绍了一个自动化研究系统,它帮助构建训练数据、运行实验和调优 GPU 内核。
下载模型或 GGUF 版本
在你的运行时里加载
发送编程或研究任务
模型推理、使用工具并修正
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Apexintelligence-AI/Apex-35B-V1.0
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Apex-35B-V1.0 本页 | 1,987 | 75 | 36B | apache-2.0 | |
| Occamy-1.0共有 mixture-of-experts · agent · qwen3_5_moe | 1,807 | 240 | 35.1B | apache-2.0 | |
| KAT-Coder-V2.5-Dev共有 agent · qwen3_5_moe · image-text-to-text | 16,106 | 687 | 34.7B | apache-2.0 | |
| DataWorld-35B-A3B共有 agent · qwen3_5_moe · image-text-to-text | 140 | 20 | 35.1B | apache-2.0 | |
| Qwen3-4B P9 Honeypot共有 research · text-generation · conversational | 33 | 3 | — | apache-2.0 | |
| Ornith-1.5-35B-A3B-NVFP4共有 qwen3_5_moe · image-text-to-text · text-generation | 1,124,337 | 73 | 19.5B | mit |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。