KVARK Sparkle 1.0 (27B) FP8
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
新上架
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
Egzakta · 工具包
能处理图像和文字,推理时用的思考 token 比基座 Qwen3.8-27B 更少,据模型卡称,在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。
Egzakta · 工具包
用多种大小的 GGUF 文件运行 27B 的 KVARK Sparkle 1.1 模型,可选图像输入和推测解码。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。
Egzakta · 工具包
一个专门做文档工作的 27B 模型:它会搜索文档库,根据找到的内容回答,找不到答案时会明说,适合做文档和搜索智能体的开发者。
Egzakta · 工具包
KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件,适用于 llama.cpp、Ollama 和 LM Studio,保留了推测解码头。适合在本地运行大模型的人。