Kvark-Sparkle-1.0-27B

Kvark-Sparkle-1.0-27B

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

由 Egzakta 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：KVARK Sparkle 1.0 是 Egzakta 的一个 27B 模型，接收图像和文字，用文字回答。它基于 Qwen3.8-27B 构建，架构保持不变。模型卡称，它的准确率与基座大致相同，回答时间约为一半，因为它在推理上花的 token 更少。

适合谁：它适合运行大型推理模型、希望每次回答等待更短的人。

行业 | 谁在用 | 怎么用 | 例子
软件和 AI 团队 | 部署大型模型的工程师 | 在 vLLM 下运行 FP8 版本 | 开着思考问一个难题，得到更短的推理过程
研究 | 研究高效推理的研究者 | 与 Qwen3.8-27B 比较推理 token 数 | 查看 GPQA Diamond、AIME 和 LiveCodeBench 的数据
本地 AI | 有大显卡的爱好者 | 配合 llama.cpp 使用 GGUF 版本 | 在 Q8_0 和 IQ4_XS 之间选一个量化

如果你需要一个能在笔记本上跑的小模型，可以略过它，因为最小的 GGUF 版本也有 15.3 GB。

用在哪里：

• 装有 transformers 库的 Python，用于这个仓库里的 BF16 权重
• vLLM，使用单独的 FP8 版本
• llama.cpp，使用单独的 GGUF 版本
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

权重 | 运行环境 | 大小
带 MTP 头的 BF16 | transformers | 52 GB
带 MTP 头的 FP8 | vLLM | 29 GB
GGUF，Q8_0 到 IQ4_XS | llama.cpp | 15.3 to 29.0 GB

如何设置：
你需要先准备：

• Python 和 Hugging Face 命令行
• 足够的显存来放 54.7 GB 的 BF16 权重，或者换用更小的 FP8 或 GGUF 版本
• 如果运行 4 位版本，大约需要 13.7 GB，这只是估算值

1. 用 pip 安装 Hugging Face 工具。
2. 把模型文件下载到缓存或一个文件夹里。
3. 用 transformers 加载，或者为 vLLM 或 llama.cpp 获取 FP8 或 GGUF 版本。

pip install -U huggingface_hub
hf download Egzakta/Kvark-Sparkle-1.0-27B

如何使用：
把一张图像和一个问题一起发给模型，并保持思考开启，模型卡的基准测试就是这样跑的。测试使用的温度为 1.0，top_p 为 0.95，top_k 为 20。

工具 | 作用
transformers | 加载这个仓库里的 BF16 权重
vLLM | 提供 FP8 版本的服务
llama.cpp | 运行 GGUF 版本

示例：你给它一张图表图像，开着思考问哪个季度增长最快。模型卡的数据表明，它的推理过程比 Qwen3.8-27B 更短，回答质量相近。

新手与专家：第一步可以先下载文件，用 transformers 加载模型，再发送一张图像和一个简短的问题。如果你的 GPU 比较小，就先用 FP8 或 GGUF 版本。

对懂行的人来说，这个模型沿用了 Qwen3.8-27B 的设计：共 64 层，其中 48 层用线性注意力，16 层用完整注意力。完整注意力有 24 个查询头、4 个键值头，头维度为 256。隐藏维度是 5,120，词表有 248,320 个 token。只有那 16 个完整注意力层会存 KV 缓存，BF16 下每个 token 占 64 KiB，FP8 下占 32 KiB。来自基座模型的一个 MTP 层支持推测解码，视觉编码器有 27 层。

图像和问题输入
模型开着思考进行推理
它比 Qwen3.8-27B 用更少的推理 token
最终答案来得更早

注意事项：

Title: 回答时间中位数
Qwen3.8-27B: 28.1 s
KVARK Sparkle 1.0: 13.7 s

Title: 推理 token 数的中位数
基准测试 | Sparkle | Qwen
GPQA Diamond | 3,122 | 7,854
AIME | 5,502 | 14,318
LiveCodeBench | 6,664 | 19,950
IFEval | 470 | 714
MMLU-Pro | 429 | 727

• 评测：两个模型都用 FP8 权重、开启思考、64k token 上限来跑，差异按题目配对计算。
• 上下文：原生 262,144 个 token，但模型卡只评测到 64k。
• 语言：列出的语言只有英语。
• License: apache-2.0
• Cost to run: 没有提到 API 密钥或付费服务。你需要一台显存足够的机器。
• Data it reaches: 它从 Hugging Face 下载文件，然后在你自己的机器上运行。
• Not for: 没有提到。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：27.4B
• Weights: about 54.7 GB in BF16; about 13.7 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：315
• 点赞：15
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3.8-27B
• Quantized versions: 8
• Fine-tunes: 1
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, reasoning, efficient-reasoning, qwen3.8, kvark, conversational, model-index

链接

• 模型：https://huggingface.co/Egzakta/Kvark-Sparkle-1.0-27B
• 文件：https://huggingface.co/Egzakta/Kvark-Sparkle-1.0-27B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Egzakta/Kvark-Sparkle-1.0-27B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。