Qwen3.6-35B-A3B-2Bit-GSQ
ISTA-DASLab · 工具包
用 GSQ(Gumbel-Softmax 量化)制作的 Qwen3.6-35B-A3B 的 2 位量化副本,用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。
新上架
ISTA-DASLab · 工具包
用 GSQ(Gumbel-Softmax 量化)制作的 Qwen3.6-35B-A3B 的 2 位量化副本,用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。