GLM-5.3-Flash EXL3 4bpw for TensorFold
Mia-AiLab · 工具包
为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版,在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。
新上架
Mia-AiLab · 工具包
为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版,在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
0xSero · 工具包
在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash,使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。