Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
一个 4.1B 的语言模型,面向设备端使用,针对编码、智能体任务、长上下文和推理做了调优,支持英文和中文,并有三档思考级别。适合本地运行模型的开发者。
Spark-X2.6-4B-Base 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download XHToken/Spark-X2.6-4B-Base
Spark-X2.6-4B-Base 是 XHToken 推出的 4.1B 参数语言模型,目标是在设备上运行,而不是在大型服务器上。它沿用早期 Spark-X2.5-4B 的架构。提升来自更好的后训练,主要体现在编码、智能体工作、长上下文、多语言使用和推理上。
适合想自己运行小型文本模型的开发者,尤其是编码辅助和使用工具的智能体式任务。页面列出的语言是英文和中文。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 应用开发者 | 给应用加一个小型本地语言模型 | 在笔记本上运行模型来辅助编码 |
| AI 智能体 | 智能体构建者 | 在紧凑模型上试验工具使用和多步规划 | 测试它规划多步骤任务的能力 |
| 研究 | 机器学习从业者 | 为一个窄任务微调紧凑模型 | 用模型卡推荐的 Llama-Factory 来微调 |
| 多语言团队 | 使用英文和中文的团队 | 用两种语言起草和回答文本 | 用每种语言各问一次同一个问题 |
如果你需要能看图像或听音频的模型,可以跳过它,因为页面描述的是文本模型。
| Use case | Who | What they get back |
|---|---|---|
| 编码辅助 | 开发者 | 以文字形式给出的代码和解释 |
| 智能体规划 | 智能体构建者 | 涉及工具的分步计划 |
| 长文档 | 分析人员 | 来自较长输入的回答,模型卡称这方面有提升 |
| 微调 | 机器学习从业者 | 为你的任务训练的定制版本 |
你需要 Python,以及足够放权重的内存,BF16 约 8.2 GB,4-bit 估计约 2.1 GB。
pip install -U huggingface_hub hf download XHToken/Spark-X2.6-4B-Base
模型卡没有给出运行代码。你用 transformers 加载文件,然后给模型发一个提示词。模型卡说应用可以在无、低、高三档思考级别中选一档,在推理质量与速度和成本之间取舍。
你让它为一个小型 Python 项目里失败的测试规划修复步骤。它回复一段文字,按顺序列出这些步骤。
这是一个在你自己电脑上补全文字、遵循指令的小型语言模型。第一步很小:下载它,用 transformers 加载,问一个简短的问题。
它保留了 Spark-X2.5-4B 的架构,只通过后训练来提升。模型卡声称它在同等规模里成绩突出,可以媲美甚至超过约 9B 参数的模型。这些是作者的说法,所以请在你自己的任务上测试。思考级别让应用可以在每个回答上花费更多或更少的精力。
一个 4.1B 的语言模型,面向设备端使用,针对编码、智能体任务、长上下文和推理做了调优,支持英文和中文,并有三档思考级别。适合本地运行模型的开发者。
由 XHToken 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Spark-X2.6-4B-Base 是 XHToken 推出的 4.1B 参数语言模型,目标是在设备上运行,而不是在大型服务器上。它沿用早期 Spark-X2.5-4B 的架构。提升来自更好的后训练,主要体现在编码、智能体工作、长上下文、多语言使用和推理上。
适合谁:适合想自己运行小型文本模型的开发者,尤其是编码辅助和使用工具的智能体式任务。页面列出的语言是英文和中文。
Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 给应用加一个小型本地语言模型 | 在笔记本上运行模型来辅助编码
AI 智能体 | 智能体构建者 | 在紧凑模型上试验工具使用和多步规划 | 测试它规划多步骤任务的能力
研究 | 机器学习从业者 | 为一个窄任务微调紧凑模型 | 用模型卡推荐的 Llama-Factory 来微调
多语言团队 | 使用英文和中文的团队 | 用两种语言起草和回答文本 | 用每种语言各问一次同一个问题
如果你需要能看图像或听音频的模型,可以跳过它,因为页面描述的是文本模型。
用在哪里:
Use case | Who | What they get back
编码辅助 | 开发者 | 以文字形式给出的代码和解释
智能体规划 | 智能体构建者 | 涉及工具的分步计划
长文档 | 分析人员 | 来自较长输入的回答,模型卡称这方面有提升
微调 | 机器学习从业者 | 为你的任务训练的定制版本
如何设置:你需要 Python,以及足够放权重的内存,BF16 约 8.2 GB,4-bit 估计约 2.1 GB。
pip install -U huggingface_hub
hf download XHToken/Spark-X2.6-4B-Base
如何使用:模型卡没有给出运行代码。你用 transformers 加载文件,然后给模型发一个提示词。模型卡说应用可以在无、低、高三档思考级别中选一档,在推理质量与速度和成本之间取舍。
示例:你让它为一个小型 Python 项目里失败的测试规划修复步骤。它回复一段文字,按顺序列出这些步骤。
新手与专家:这是一个在你自己电脑上补全文字、遵循指令的小型语言模型。第一步很小:下载它,用 transformers 加载,问一个简短的问题。
它保留了 Spark-X2.5-4B 的架构,只通过后训练来提升。模型卡声称它在同等规模里成绩突出,可以媲美甚至超过约 9B 参数的模型。这些是作者的说法,所以请在你自己的任务上测试。思考级别让应用可以在每个回答上花费更多或更少的精力。
下载模型文件
用 transformers 加载
选择思考级别
发送提示词并读取文字回复
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download XHToken/Spark-X2.6-4B-Base
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Spark-X2.6-4B-Base 本页 | 2,331 | 47 | 4.1B | apache-2.0 | |
| Spark-X2.6-4B共有 sparkx2_5 · spark2_5 · text-generation | 28,117 | 1,041 | 4.1B | apache-2.0 | |
| Spark-X2.5-4B共有 sparkx2_5 · spark2_5 · text-generation | 8,697 | 1,442 | 4.1B | apache-2.0 | |
| Spark-X2.6-1.7B共有 sparkx2_5 · spark2_5 · text-generation | 5,095 | 84 | 1.7B | apache-2.0 | |
| Spark-X2.6-4B-FP8共有 sparkx2_5 · spark2_5 · text-generation | 2,048 | 39 | 4.1B | apache-2.0 | |
| Spark-X2.6-1.7B-Base共有 sparkx2_5 · spark2_5 · text-generation | 1,272 | 15 | 1.7B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。