Qwen 3.6 35B-A3B REAP-48 v2 GGUF
crucible-labs · 工具包
在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B,供 llama.cpp 使用,比第一版更接近未量化的权重。适合内存有限的人。
新上架
crucible-labs · 工具包
在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B,供 llama.cpp 使用,比第一版更接近未量化的权重。适合内存有限的人。
anik-jha · 工具包
用砍掉一半专家的 Qwen3.6-35B-A3B 写代码,打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。