Qwen3.8-27B-NVFP4-DGX-SPARK
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
新上架
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
Egzakta · 工具包
KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件,适用于 llama.cpp、Ollama 和 LM Studio,保留了推测解码头。适合在本地运行大模型的人。