KVARK Sparkle 1.1 (27B)

KVARK Sparkle 1.1 (27B)

一个专门做文档工作的 27B 模型：它会搜索文档库，根据找到的内容回答，找不到答案时会明说，适合做文档和搜索智能体的开发者。

由 Egzakta 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：KVARK Sparkle 1.1 是 Egzakta 的一个 27B 模型，由 Sparkle 1.0 训练而来，专为文档工作设计。它会搜索文档库，根据找到的内容回答，答案不在其中时会承认。它沿用 Qwen3.8-27B 的架构，支持图片和文字输入。在公开基准上，模型卡报告它与 Qwen3.8-27B 没有显著差异。

适合谁：构建文档问答或搜索智能体的开发者最能用上它。适合那种答错比不答更糟糕的场景。

行业 | 谁在用 | 怎么用 | 例子
法律 | 律师助理和法律科技开发者 | 在一堆合同里搜索，只根据合同回答 | 找到一条条款，或者得知它并不存在
合规 | 分析师 | 检查政策文件里是否有某项具体要求 | 确认某条规则有没有被覆盖
客户支持 | 支持工程师 | 根据帮助中心的文档库回答 | 回复说手册没有涉及这个问题
研究 | 知识工作者 | 查询一组私有的论文或报告 | 从一份长报告里挑出一个事实

如果你不做搜索文档的智能体，可以跳过它，因为它的调优针对的就是这项工作。

用在哪里：

• 带 transformers 库的 Python，Hugging Face 列出了它
• vLLM，使用单独的 FP8 仓库
• llama.cpp，使用单独的 GGUF 仓库
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用途 | 适合谁 | 得到什么
文档问答 | 智能体开发者 | 来自你提供的文档的回答
无法回答的问题 | 合规团队 | 事实缺失时，明确回复 NOT IN DOCUMENTS
推理任务 | 开发者 | 比基础模型用更少推理 token 的回答

如何设置：你需要带 pip 的 Python、放得下权重的 GPU，以及智能体可以调用的搜索工具。BF16 权重约 54.7 GB。模型卡还列出了更小的版本。

• Python 和 pip，在 Windows、macOS 或 Linux 上
• transformers 库，其他版本则用 vLLM 或 llama.cpp
• 内存足够的 GPU，BF16 约需 54.7 GB
• 你自己的智能体，带有搜索工具和系统提示词

1. 安装 Hugging Face 的 hub 软件包。
2. 下载模型文件。
3. 把 stop_system.txt 里的停止规则加到系统提示词的末尾。

pip install -U huggingface_hub
hf download Egzakta/Kvark-Sparkle-1.1-27B

版本 | 大小 | 用途
带 MTP 头的 BF16 | 55.6 GB | 就是这个仓库
带 MTP 头的 FP8 | 30.9 GB | 用于 vLLM，在 Kvark-Sparkle-1.1-27B-FP8 仓库里
GGUF，BF16 到 IQ4_XS | 15.3 到 54.7 GB | 用于 llama.cpp，在 Kvark-Sparkle-1.1-27B-GGUF 仓库里

如何使用：把停止规则放在系统提示词里你的工具说明后面。这条规则告诉模型，连续三次搜索都没有页面写明那个事实，就说明文档里很可能没有。这时它应当回复 NOT IN DOCUMENTS，并且始终以一行 Final answer 结尾。模型是带着这条规则训练的。

from huggingface_hub import hf_hub_download

stop_rule = open(hf_hub_download("Egzakta/Kvark-Sparkle-1.1-27B", "stop_system.txt")).read().strip()
system = tool_instructions + "\n\n" + stop_rule  # tool_instructions: your agent's own system prompt

示例：你的智能体在文档库里搜索一个事实。连续三次搜索都没有带回写明它的页面。模型停止搜索，回答 NOT IN DOCUMENTS，而不是瞎猜。

新手与专家：智能体就是让模型能调用工具的程序，比如文档搜索。一个好的第一步是把停止规则加到你的系统提示词里，然后问一个你知道文档里没有答案的问题。

模型沿用 Qwen3.8-27B 的设计：64 层，其中 48 层是线性注意力，16 层是完整注意力，另有一个用于推测解码的单层 MTP 头。上下文原生为 262,144 个 token，评测到 64k。模型卡说它的回答中位数比 Qwen3.8-27B 少用 7% 到 48% 的推理 token。它的文档工作分数全部使用了停止规则。

你把停止规则加到系统提示词
模型搜索你的文档库
它根据找到的页面回答
或者回复 NOT IN DOCUMENTS 并停下

Title: 文档里没有答案的问题中，被正确拒答的比例
Sparkle 1.0: 36 percent
Sparkle 1.0 with the stop rule: 74 percent
Sparkle 1.1 with the stop rule: 91.5 percent

注意事项：

• License：apache-2.0，以 Hugging Face 上列出的为准
• Cost to run：没有提到，只需要能放下权重的 GPU
• Data it reaches：你连接到智能体的文档和工具，来源没有提到其他访问
• 列出的语言是英语和塞尔维亚语
• Not for：不带停止规则运行的文档智能体，因为那样模型会拒答少得多的无法回答的问题
• 模型卡里的文档工作分数来自作者自己的评测

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：27.4B
• Weights: about 54.7 GB in BF16; about 13.7 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：59
• 点赞：3
• 许可证：apache-2.0
• 语言：en, sr
• 基于：Egzakta/Kvark-Sparkle-1.0-27B
• Quantized versions: 4
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, reasoning, efficient-reasoning, agentic-rag, document-qa, qwen3.8, kvark, conversational, model-index

链接

• 模型：https://huggingface.co/Egzakta/Kvark-Sparkle-1.1-27B
• 文件：https://huggingface.co/Egzakta/Kvark-Sparkle-1.1-27B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Egzakta/Kvark-Sparkle-1.1-27B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。