Spark-X2.5-4B

Spark-X2.5-4B

一个紧凑的 4.1B 通用语言模型，原生支持 1M token 上下文和 200 多种语言，采用混合注意力设计，针对编码和智能体使用调校。适合想要小型开放模型的开发者。

由 XHToken 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Spark-X2.5-4B 是 XHToken 的紧凑型通用语言模型，约有 4.1B 参数，由 Spark-X2.5-4B-Base 后训练而来。它涵盖编码、工具使用、翻译、写作、推理和聊天，支持 200 多种语言，原生上下文窗口最长可达 1M token。同一系列里还有一个 1.7B 的姊妹模型。

适合谁：它适合想在编码智能体或聊天工具背后用小型开放模型的开发者。它也适合需要长文档或多语言、又想要一个更轻便易托管的小模型的团队。

行业 | 使用者 | 用法 | 例子
软件 | 开发者 | 在 Codex 这样的智能体工具背后运行它 | 让它写一个函数并解释
全球业务 | 本地化团队 | 把文字翻译并起草成多种语言 | 把一份产品说明变成几种语言
研究 | 机器学习工程师 | 测试长上下文表现 | 给它一份长文档并提问

需要尽可能大的模型的人可以跳过，因为这个模型的设计目标就是小。

用在哪里：

• 使用 Transformers 的 Python，采用模型卡描述的格式
• 模型卡列为兼容的推理工具，例如 vLLM、SGLang、llama.cpp 和 MLX
• 模型卡提到的桌面和本地运行工具，例如 Ollama 和 LM Studio
• 模型卡提到的智能体工具，例如 Codex 和 Claude Code

使用场景 | 谁用 | 得到什么
编码帮助 | 开发者 | 来自本地小模型的代码和解释
翻译 | 本地化团队 | 另一种语言的文字
长文档 | 分析师 | 基于最长 1M token 上下文的回答

如何设置：

• 装有 pip 的 Python，用于下载
• BF16 约 8.2 GB 的内存，或 4 比特约 2.1 GB，为估算值
• 一个能加载模型的工具，例如 Transformers 或兼容的运行器

1. 安装 Hugging Face 的 hub 客户端。
2. 下载模型的文件。
3. 在你选的工具里加载它们。

pip install -U huggingface_hub
hf download XHToken/Spark-X2.5-4B

如何使用：模型卡里运行的步骤在这里被截断了，所以请查看它推荐的设置。在 Transformers 里加载模型，或让兼容的运行器指向这些文件，然后发送一条提示词。别人制作的量化版本也有，适合需要更小文件的工具。

工具 | 作用
Transformers | 加载 Hugging Face 格式的后训练权重
vLLM 和 SGLang | 模型卡列为兼容的推理框架
llama.cpp 和 MLX | 用于在本地机器上运行的兼容框架
Ollama 和 LM Studio | 用于快速部署的平台
LLaMA-Factory | 用来定制模型的微调框架

示例：你在 Transformers 里加载 Spark-X2.5-4B，让它写一个小函数并解释。模型卡可见的文字里没有示例输出，所以请用你自己的任务来判断答案。

新手与专家：4B 模型很小，所以很适合先在配置一般的机器上试用。先用 BF16 权重或一个量化副本，再用你自己的提示词测试。

它每三层滑动窗口层配一层全注意力层。模型卡称这样既能压低缓存和计算量，又能支持最长 1M token 的上下文。它在华为昇腾集群上训练，用了大规模强化学习，以及 MOPD 这样的后训练步骤。

输入提示词、代码或工具上下文
混合注意力层读取它
4.1B 模型推理并写作
输出文字、代码或智能体步骤

Title: 权重大小，单位 GB
In BF16: 8.2 GB
At 4-bit, estimated: 2.1 GB

注意事项：

• 规模：4.1B 参数，BF16 约 8.2 GB，4 比特约 2.1 GB，为估算值
• 上下文：模型卡称原生最长 1M token
• 声明：模型卡称它领先同规模的开放模型，但可见的文字里没有给出分数
• 语言：200 多种
• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 你在自己硬件上发送的提示词，而下载步骤会从网络获取文件
• Not for: 模型卡中未提及

Hugging Face 上的数据（2026年11月14日）

• 任务：text generation
• 框架：transformers
• 参数量：4.1B
• Weights: about 8.2 GB in BF16; about 2.1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：8,697
• 点赞：1,442
• 许可证：apache-2.0
• 基于：XHToken/Spark-X2.5-4B-Base
• Quantized versions: 56
• Fine-tunes: 26
• 标签：transformers, safetensors, spark2_5, text-generation, sparkx2_5, agent, conversational

链接

• 模型：https://huggingface.co/XHToken/Spark-X2.5-4B
• 文件：https://huggingface.co/XHToken/Spark-X2.5-4B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download XHToken/Spark-X2.5-4B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。