Qwen3.8-27B Splash 8-bit
dmeight · 工具包
在 Apple silicon 的 LM Studio 里,通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包,比 4-bit 版本更接近原始模型,但速度更慢。
dmeight · 工具包
在 Apple silicon 的 LM Studio 里,通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包,比 4-bit 版本更接近原始模型,但速度更慢。
bartowski · 工具包
Cloudflare 的 clef 决策模型的静态 GGUF 量化版本,它不写文字,而是一次性为关于某个状态的类型化问题的每个选项打分。适合用 llama.cpp 运行它的开发者。
barozp · 工具包
面向 Apple Silicon 的 4 位 MLX 版本,来自从稠密的 Qwen3.8-27B 切出来的混合专家模型,总参数 27B,激活 17.8B。适合用 mlx-lm 运行本地模型的人。
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
agentionai · 工具包
把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件,有八种大小,从 8.95 到 16.35 GiB,另附视觉投影器。作者称在每个大小上,它与 BF16 模型的偏离都比其他量化版本小。
0xKitkat · 工具包
把 Qwen3.8-Flash-Next 混合专家模型压缩成约 37 GiB 的纯文本 GGUF 文件,供实验使用。它需要发布包里附带的补丁版 llama.cpp 才能运行。
JuneoAI · 工具包
通过一次推理给候选选项打分,帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型,权重以 Apache-2.0 开放。
pentacoxian-dev · 工具包
在一块 24 GB 的 GPU 上,以 262K token 的上下文和图片输入运行带稀疏注意力的 Qwen3.8-27B,是 GGUF 文件,适合有定制版 llama.cpp 引擎的人。
mradermacher · 工具包
Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版,大小约 11 GB 到 22.5 GB,用于本地运行。适合在自己电脑上运行 27B 模型的人。
lododoai · 工具包
一个可在本地运行的文本模型,是 Qwen3.6-35B-A3B 的微调版本,用 Qwen3.8-27B 生成的数据训练,打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。
khazarai · 工具包
在提出修复方案前先检查真实文件,来调试和评审代码。这是 Qwen3.8-27B 的微调版,用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。
kaitchup · 工具包
用自定义的统计无损量化,把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。
Jundot · 工具包
Qwen3.8-27B 的混合精度 MLX 副本,约每个权重 6.9 位,包含视觉编码器和多词元预测头,可在 Apple 芯片上本地运行。
jarrodwatts · 工具包
给 Qwen3.8-27B 的一个小型权重修改,附带应用它的脚本,只改动一个矩阵、不需要训练,就能缩短模型在开放式任务上的思考长度。
Jackrong · 工具包
减少长时间智能体任务里被浪费的推理,是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本,Python 格式更好。适合在本地跑智能体循环的人。
Jackrong · 工具包
写代码、调用工具,作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型,用约 200,000 条代码和推理样例训练,适合有强力 GPU 的开发者。
incoai · 工具包
通过起草一整块 token 让主模型验证,来加速 Qwen3.8-27B,输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型,不是独立的聊天模型。
Hcompany · 工具包
查看截图并决定下一步的点击、按键、代码运行或工具调用,基于 Qwen3.8-27B。这是面向网页、桌面和手机智能体的电脑操作模型,采用非商业许可。
Greatjedi · 工具包
提供为 Intel Arc GPU 重新调整的 27B Qwen3.8 GGUF 文件,作者的测试里纯解码约每秒 22 个词元。适合在 Arc 显卡上用 llama.cpp 和 SYCL 的人。