Qwen3.8-27B-Quark-AWQ-MXFP4
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
新上架
没有商品同时包含“mxfp8”的所有词。下面显示匹配“mxfp4”的结果。
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
deep-principle · 工具包
Deep Principle 的 384B 科学助手 Hydrogen-1.0 的 MXFP4 量化版本,面向 AMD Instinct 硬件。适合想用文本模型处理科学问题和研究规划的实验室。
flechin · 工具包
一个 27B 推理模型,经过微调后倾向于直接回答而不是含糊其辞,并量化为 MXFP4,让 vLLM 能在单块 32 GB GPU 上提供服务,适合运行本地推理和工具调用模型的开发者。