Spark-X2.6-4B

Spark-X2.6-4B

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

由 XHToken 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Spark-X2.6-4B 是一个有 4.1B 参数的紧凑通用语言模型，为设备端使用而做。它沿用 Spark-X2.5-4B 的架构，改进来自更好的后训练。它支持英文和中文，有三档思考强度：无、低和高。

适合谁：它适合想要一个小模型来做本地智能体、编程帮助和长文档，而不用把数据发到服务器的开发者。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 运行本地的编程和智能体助手 | 在笔记本上规划步骤并调用工具的助手
产品团队 | 应用开发者 | 发布设备端助手 | 不依赖云端模型也能用的聊天功能
全球团队 | 内容人员 | 用一个模型处理英文和中文 | 用两种语言起草和检查文字
人工智能研究 | 研究人员 | 研究不同思考强度的代价 | 对比高低强度下的分数和输出长度

如果你需要一个超大模型来处理最难的任务，可以跳过它。

用在哪里：

• 使用 transformers 库的 Python，固定在 4.57.1 版本
• 笔记本、台式机和其他本地机器，因为模型卡面向设备端部署
• Windows、macOS 或 Linux

Use case | Who | What they get back
编程帮助 | 开发者 | 按你选的思考强度给出的代码和解释
智能体任务 | 智能体开发者 | 小模型完成的工具使用和多步骤规划
长上下文阅读 | 分析人员 | 从长输入里得出的回答

如何设置：

你需要先准备：

• Python 和 pip
• 4.57.1 版本的 transformers
• 大约 8.2 GB 磁盘空间存放 BF16 权重，4-bit 估算约 2.1 GB

1. 安装模型卡指明的确切 transformers 版本。
2. 下载模型文件，或让 transformers 在首次加载时自己获取。
3. 用下面的 Python 代码加载分词器和模型。

pip install transformers==4.57.1

from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "XHToken/Spark-X2.6-4B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    trust_remote_code=True,
    torch_dtype="auto",
    device_map="auto",
)
messages = [{"role": "user", "content": "What is the capital of Anhui Province?"}]

如何使用：把你的问题放进消息列表，经过分词器的聊天模板，然后生成。模型卡的示例在模板里打开了思考。选择无、低或高的思考强度，在回答质量与速度和成本之间取舍。

Tool | What it does
enable_thinking=True | 在聊天模板示例里打开思考
Thinking levels | 无、低或高，让你在质量、延迟和成本之间取舍
trust_remote_code=True | 加载时允许运行随模型提供的代码
device_map="auto" | 把模型放到你有的设备上

示例：你问：“写一个判断字符串是否为回文的函数。”开着思考时，模型先推理，再返回这个函数。思考设为无时，它回答得更快，推理更少。

新手与专家：这是一个可以在你自己机器上运行的小模型。第一步可以先用上面的简短 Python 示例，开着思考，再用同一个问题关掉思考试一次。

作者说，改进只来自后训练，架构与上一个版本没有变化。他们报告它与某些约 9B 参数的模型相当或更好，推理速度与 Qwen3.5-4B 和 Gemma-E4B 相当。

你为模型写好消息
聊天模板加入思考设置
模型先推理，再回答
你读取它返回的文字

注意事项：按模型卡的数字，降低思考强度会损失一点准确度，并节省输出长度。

Title: 从高强度切到低强度的平均分数下降
Spark-X2.6-4B: 1.7 points
Spark-X2.6-1.7B: 4.0 points

• 输出长度: 从高强度切到低强度，4B 模型的平均输出缩短 22.0%，1.7B 模型缩短 37.3%
• 说法: 与其他模型的对比是作者自己的，以图表形式放在模型卡上
• 其他版本: 列出了其他人做的 63 个量化版本和 23 个微调版本
• License: Apache 2.0
• Cost to run: 未提及，硬件由你自己提供
• Data it reaches: 你给它的提示词

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：4.1B
• Weights: about 8.2 GB in BF16; about 2.1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：28,117
• 点赞：1,041
• 许可证：apache-2.0
• 语言：en, zh
• 基于：XHToken/Spark-X2.6-4B-Base
• Quantized versions: 66
• Fine-tunes: 23
• 标签：transformers, safetensors, spark2_5, text-generation, sparkx2_5, conversational

链接

• 模型：https://huggingface.co/XHToken/Spark-X2.6-4B
• 文件：https://huggingface.co/XHToken/Spark-X2.6-4B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download XHToken/Spark-X2.6-4B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。