Qwen3.5-4B GGUF
bartowski · 工具包
Qwen3.5-4B 的 imatrix GGUF 量化版本,这是一个带 MTP 层的 4.3B 图文模型,4 位文件约 3 GB。适合在本地运行小模型的人。
新上架
bartowski · 工具包
Qwen3.5-4B 的 imatrix GGUF 量化版本,这是一个带 MTP 层的 4.3B 图文模型,4 位文件约 3 GB。适合在本地运行小模型的人。
JonathanColetti · 工具包
直接编辑两个权重张量,不经训练,修复 Qwen3.5-0.8B 在思考模式下陷入的重复循环。这是一个小型图文模型,可用于 Transformers、vLLM、llama.cpp 和浏览器。