DeepSeek-V4.1-Flash-1017-TrellisMX-FLARE
JMNI-Labs · 工具包
用压缩的 TrellisMX 包,在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。
JMNI-Labs · 工具包
用压缩的 TrellisMX 包,在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。
XHToken · 工具包
面向设备端运行的 4.1B 参数紧凑文本模型,FP8 版本,有 none、low、high 三档思考等级,支持中英文。适合在小型硬件上做编程和智能体任务。
XHToken · 工具包
一个紧凑的 1.7B 语言模型,面向设备端使用,支持英文和中文,在编程、智能体任务和长上下文上有提升,并有三档可调的思考级别。适合在本地运行模型的开发者。
XHToken · 工具包
一个紧凑的 4.1B 通用语言模型,原生支持 1M token 上下文和 200 多种语言,采用混合注意力设计,针对编码和智能体使用调校。适合想要小型开放模型的开发者。
SparkAudio · 工具包
用基于 Qwen2.5 的模型把文字念成中文和英文语音,支持零样本声音克隆,也能按性别、音高和语速创建虚拟声音。适合做语音的开发者和研究人员。
Sherlock-Comms · 工具包
通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型,输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。
openbmb · 工具包
通过起草 token、再让主模型一次性验证,加快 MiniCPM-OCR 1.0 的解码。它是草稿头,不是独立的 OCR 模型,适合自己部署文档解析的人。
Mia-AiLab · 工具包
为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版,在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
Egzakta · 工具包
能处理图像和文字,推理时用的思考 token 比基座 Qwen3.8-27B 更少,据模型卡称,在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
0xSero · 工具包
在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash,使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。
officialmobai · 工具包
一步一步推理数学、物理、科学编程以及波斯语或英语问题,并支持工具调用。基于 Spark-X2.6-4B 的 4.1B 模型,适合想要小型双语推理模型的人。
JamieBradfield · 工具包
几乎没有思考延迟地调用工具并遵循指令,是 Spark-X2.6-4B 的 4.1B 微调模型。适合构建需要快速、直接调用工具的本地智能体的人。
hotocooo · 工具包
编写 Blender 5.x 的 Python 脚本,生成干净的、以四边形为主的网格,比如道具、家具、产品以及人体和动物的基础网格。这是 Spark-X2.6-4B-Base 的 4B 微调版本,适合用脚本操作 Blender 的人。
Egzakta · 工具包
用多种大小的 GGUF 文件运行 27B 的 KVARK Sparkle 1.1 模型,可选图像输入和推测解码。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。
Egzakta · 工具包
一个专门做文档工作的 27B 模型:它会搜索文档库,根据找到的内容回答,找不到答案时会明说,适合做文档和搜索智能体的开发者。
Egzakta · 工具包
KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件,适用于 llama.cpp、Ollama 和 LM Studio,保留了推测解码头。适合在本地运行大模型的人。
AQ-MedAI · 工具包
一个小型草稿模型,通过 SGLang 里的推测解码加速 Ling-3.1-Flash,每次草拟 5 个或 7 个 token。适合在 NVIDIA GPU 上部署 Ling-3.1-Flash 的团队。
XHToken · 工具包
一个小型草稿模型,通过推测解码加速 Spark-X2.6-1.7B,每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。