Qwen3.8-27B-SLQ-GGUF
kaitchup · 工具包
用自定义的统计无损量化,把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
kaitchup · 工具包
用自定义的统计无损量化,把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。
Jundot · 工具包
Qwen3.8-27B 的混合精度 MLX 副本,约每个权重 6.9 位,包含视觉编码器和多词元预测头,可在 Apple 芯片上本地运行。
Jundot · 工具包
Qwen3.6-35B-A3B 的混合精度 MLX 副本,约每个权重 6.8 位,包含视觉编码器和多词元预测头,可在 Apple 芯片上本地运行。
jarrodwatts · 工具包
给 Qwen3.8-27B 的一个小型权重修改,附带应用它的脚本,只改动一个矩阵、不需要训练,就能缩短模型在开放式任务上的思考长度。
Jackrong · 工具包
减少长时间智能体任务里被浪费的推理,是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本,Python 格式更好。适合在本地跑智能体循环的人。
Jackrong · 工具包
写代码、调用工具,作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型,用约 200,000 条代码和推理样例训练,适合有强力 GPU 的开发者。
ironbcc · 工具包
基于 Qwen3.5-9B 的 9B 决策模型。你给它一个情境、一个问题和若干选项,它一次计算就返回每个选项的可能性,不生成任何文字。
incoai · 工具包
通过起草一整块 token 让主模型验证,来加速 Qwen3.8-27B,输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型,不是独立的聊天模型。
Hcompany · 工具包
查看截图并决定下一步的点击、按键、代码运行或工具调用,基于 Qwen3.8-27B。这是面向网页、桌面和手机智能体的电脑操作模型,采用非商业许可。
gribbliest · 工具包
用一个简短的提示词,从新的相机角度重新渲染一张图片,是 Qwen Image 2.1 的编辑 LoRA。适合在 ComfyUI 或 diffusers 里编辑图片的艺术家和开发者。
Greatjedi · 工具包
提供为 Intel Arc GPU 重新调整的 27B Qwen3.8 GGUF 文件,作者的测试里纯解码约每秒 22 个词元。适合在 Arc 显卡上用 llama.cpp 和 SYCL 的人。
ggml-org · 工具包
按与查询的相关度给段落排序,是 Qwen3 0.6B 重排序模型的 8-bit GGUF 副本,用 llama.cpp 制作。适合想要小型本地重排序模型来做搜索的开发者。
Divij · 工具包
把反编译器的输出改写成可读的 C 源码,带有有意义的名称和正确的类型。这是在未优化二进制上训练的 Qwen3.5-4B 微调模型,适合安全研究者和逆向工程师。
divagr1925 · 工具包
一个实验性的 Qwen3.5-4B,把 RISC-V CPU 和一个小型文件系统编译进了权重,所以它不用外部工具就能跨会话记住事实。检查点能放进 24 GB 的 GPU。
DavidAU · 工具包
DavidAU 制作的 Qwen3.8-Flash-Next 的 GGUF 版本,有 27 种推理模式、27 种指令模式和 15 个可在提示词里切换的 AI 角色。适合有大显卡或大内存的人。
DavidAU 对 27B Qwen 模型的 GGUF 微调版,有可切换的指令和推理模式,以及内置的帮助系统。Hugging Face 把它列为图文转文字。供本地运行。
回答问题并读取图像,思考过程短得多。这是 DavidAU 对 27B 的 Qwen 3.8 的调优版 GGUF,目标是在保持准确度的同时减少推理 token,适合在本地运行模型的人。
cyankiwi · 工具包
cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本,一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB,可在 Transformers、vLLM 或 SGLang 中加载。
Contrastive-LM · 工具包
为给定的状态,给候选答案、动作或工具名各打一个概率,而不是写文字。这是建在冻结的 Qwen3-8B 编码器上的快速决策模型,适合智能体和分流工具的构建者。
cdiamond · 工具包
Qwen3.8-27B 的 17.1 GB 混合精度 GGUF,保留了多词元预测层,为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。
byteshape · 工具包
用带多词元预测的 GGUF 量化版本运行 Qwen3.6-35B-A3B,在 llama.cpp 里让 GPU 解码更快。由 ByteShape 制作,适合在显卡上运行本地模型的人。
bespokelabs · 工具包
传入上下文和带类型的问题(选择题、是非题或有序评分),为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本,适合构建分类器和决策步骤的开发者。
bespokelabs · 工具包
用 Qwen3.5-9B 上的 LoRA 适配器,根据一段文字给是非题、选择题和评分等级打分。适合需要返回概率而不是自由文本的分类器的开发者。
beipo-ai · 工具包
用基于 Qwen3.5 的 9B 稠密电脑操作模型,通过截图操作桌面和浏览器应用。适合用官方 NorthCUA 运行框架构建电脑操作智能体的开发者。
agentionai · 工具包
比 Qwen3.8-27B 回答更简短直接,使用更少的回答和思考 token,因此回复结束得更早。这是一次轻量微调,可以直接用在与基础模型相同的工具里。
xtools-at · 工具包
用三个 Qwen3.8-27B 微调版本加权合并而成的模型,可编写和解释代码,也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。
sky7350 · 工具包
基于 Qwen3.5-4B 的 4B 分类模型,读取输入后为每个允许的答案给出概率,适用于护栏、路由、分流和智能体闸门。适合想在不用大模型的情况下做是非或标签判断的开发者。
SicariusSicariiStuff · 工具包
这是一个基于 Qwen3-32B 的 32.8B 参数英语模型,有 8B、32B 和 70B 三个版本。这里的模型卡文字只有页面样式,所以没有写明具体用途。适合已经在关注这个模型系列的人。
ragentile · 工具包
这个模型编写 GPU 内核,并通过在测试环境里反复尝试来提升速度。它是用强化学习从 Qwen3.6-35B-A3B 训练出来的混合专家模型,面向调优 GPU 代码的工程师。
Qwen · 工具包
这是一个只做过预训练的视觉语言基础模型,用于微调和上下文学习实验,不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。
Qwen · 工具包
一个 4B 的 GGUF 聊天模型,可在 llama.cpp 或 ollama 里本地运行,有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。
Qwen · 工具包
这是一个 14.8B 参数的开源模型,难题用思考模式推理,日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列中最大的指令微调模型,32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。
Qwen · 工具包
提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。
Qwen · 工具包
提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。
Qwen · 工具包
把文字提示词变成图像,并能在图中渲染清晰的英文和中文文字。适合使用 diffusers 库的设计师、艺术家和开发者。
mradermacher · 工具包
ccore/Qwen3.5-4B-GLB-3D-Coder(一个 4.2B 模型)的静态 GGUF 量化版本,大小从 2.0 GB 到 8.5 GB,另有两个小型多模态补充文件。由 mradermacher 制作。
incoai · 工具包
通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B,一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。
flechin · 工具包
一个 27B 推理模型,经过微调后倾向于直接回答而不是含糊其辞,并量化为 MXFP4,让 vLLM 能在单块 32 GB GPU 上提供服务,适合运行本地推理和工具调用模型的开发者。
empero-ai · 工具包
把 Qwen3.8-27B 压缩成每权重 3.7 位的 GGUF 文件来运行,适合 16 GB 的 GPU,还可选图像输入。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。
Comfy-Org · 工具包
为 ComfyUI 文本编码器文件夹重新打包的 Qwen3-VL 4B 和 8B 模型文件,提供从 bf16 到 4-bit 风格的多种精度。适合需要 Qwen3-VL 文本编码器的 ComfyUI 用户。
Comfy-Org · 工具包
为 ComfyUI 重新打包的 Qwen-Image-Edit 模型文件和 LoRA,附带根据文字指令编辑图片的工作流。适合修图和改风格的 ComfyUI 用户。
chtisgit · 工具包
用 2-bit GSQ 的 GGUF 转换版运行 35B 的 Qwen 模型,另配一个单独的视觉投影器,供 llama.cpp 使用。适合想在 CPU 或普通显卡上用小文件跑大模型的人。
byteshape · 工具包
Qwen3.6-35B-A3B 的量化 GGUF 版本,能读图片和文字,有从约 9 GB 起的 CPU 和 GPU 变体,用 ByteShape 的 ShapeLearn 制作。适合运行 llama.cpp 的开发者。
anik-jha · 工具包
用砍掉一半专家的 Qwen3.6-35B-A3B 写代码,打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。
unsloth · 工具包
unsloth 制作的 Qwen3.5-2B 小型 GGUF 版本,能读图片和文字并用文字回答。适合在本地做原型、微调和研究。
QwenLM · 工具包
开源的 AI 编程智能体,可在终端、IDE 插件、桌面应用、网页和聊天应用里使用,带子智能体、MCP 和多家模型服务商。适合用 AI 写代码的开发者。
ragentile · 工具包
用强化学习调优的模型,用于编写并加速 GPU 内核,基于 Qwen 底座,用编译、正确性和计时反馈训练。适合做 GPU 性能工作的开发者。
Qwen · 工具包
读取文本和图像并输出文本,是 Qwen3.6-35B-A3B 的 FP8 版本,激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。
Qwen · 工具包
Qwen 的 27B 模型,读取文字和图片并用文字回复,针对编程智能体和仓库级工作调校,适合用 transformers 库运行它的开发者。
Qwen · 工具包
把 100 多种语言的文字和代码变成向量,用于搜索、检索、分类和聚类,向量大小可调,还支持任务指令,适合构建搜索和 RAG 系统的开发者。
Qwen · 工具包
作为编程智能体模型使用,总参数 80B、激活参数 3B,上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。
Qwen · 工具包
用 4B 模型回答对话提示,不显示思考过程,可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。
Qwen · 工具包
提供 Qwen2.5 1.5B 小型对话模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本或普通 GPU 上运行。适合想要轻量本地助手的人。
Qwen · 工具包
Qwen 的 1.5B 小型对话模型,能遵循指令、写代码和数学、输出 JSON 等结构化内容,支持超过 29 种语言。适合需要轻量模型的开发者。
prithivMLmods · 工具包
一个小型 Qwen3.5 0.8B 模型的 GGUF 版本,它的权重被直接修改以减少推理循环。适合想用多种量化大小在本地运行它的人。
oguzeldereli · 工具包
用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next,比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。
oguzeldereli · 工具包
把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件,可在 12 GB 显卡上运行,有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。
NousResearch · 工具包
Nous Research 的 14B 混合推理模型,基于 Qwen3-14B。它可以逐步思考、调用工具,并返回符合模式的 JSON。使用 ChatML 提示格式。
mondk · 工具包
一个 4.2B 的文本生成模型,由 Qwen3.5-4B 微调而来,用 Three.js 把 3D 场景写成一个独立的 HTML 文件。在浏览器里打开文件,用鼠标旋转模型。
MemTensor · 工具包
自带固定大小记忆状态的语言模型,基于 Qwen3.6-35B-A3B,无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。
jaredpalmer · 工具包
读取一份文档和带类型的问题,一次计算就为每个答案选项返回校准过的概率,不生成文字。这是基于 Qwen3.5-4B 的决策模型,适合需要给文档分流、分诊或检查的开发者。
LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本,加入 DavidAU 的 Turbo Brilliance 系统,有 12 种推理模式和 12 种指令模式,在提示词里切换。2.7B 测试版,供本地运行。
bartowski · 工具包
bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本,从 Q8_0 到 3-bit,用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。
Asteromorph · 工具包
为每份文档与搜索查询的相关度打分,可附带上下文,用来重新排序搜索结果。这是基于 Qwen3.5 构建的 4B 开放权重重排序模型,适合科学和通用搜索。
unsloth · 工具包
Qwen3.5 9B 的 GGUF 版本,支持在 llama.cpp 里用多词元预测做推测解码,生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。
unsloth · 工具包
unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本,能读图片和文字并用文字回答。适合在本地做原型、微调和研究。
turboderp · 工具包
Qwen3.8-27B 的 EXL3 量化版本,提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。
TawusGames · 工具包
TawusGames 发布的 LoRA,从名字看用于 Qwen Image 2.1 的纹理局部重绘和外扩。模型页没有更多说明。
sweetand · 工具包
帮助 1C:Enterprise 平台上的开发者读取和修改 BSL 代码,并在 XML 导出里查找对象。这是以俄语为主的 Qwen3.8-27B 微调版本,这里提供 GGUF 格式。
StrandsAgents · 工具包
为智能体流程做快速决策:在选项中挑选,或按等级打分,每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。
StillDeadcode · 工具包
把 Qwen3.8-27B 压缩成十五种大小,每个权重约 2.5 到 8 位,面向 AMD RDNA4 GPU 上的 radiance 引擎,内含图片读取和提速草稿器。
Qwen · 工具包
能读图像和文字的多模态聊天模型,总参数 35B,每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。
Qwen · 工具包
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
Qwen · 工具包
为每个段落回答查询的程度打分,把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型,适合搭建搜索的开发者。
Qwen · 工具包
提供 Qwen3-0.6B-Base,这是 Qwen3 系列里小型的预训练基础模型,用 119 种语言训练,上下文 32k。适合要微调或研究微型语言模型的开发者。
peculiar-ragdoll · 工具包
替换 Qwen3.5、3.6 和 3.8 模型的聊天模板,让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。
mlx-community · 工具包
Qwen3.8-27B 的 4 位 MLX 转换版,能读文字和图像并用文字回答,用 mlx-vlm 工具运行。适合想在本地运行视觉语言模型的开发者。
lmstudio-community · 工具包
Qwen 的 Qwen3.8-27B 的 GGUF 量化版本,由 LM Studio 团队用 llama.cpp 制作,适合在自己电脑上运行 27B 模型的人。
higa2515 · 工具包
在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重,附带参考用的 Transformers 加载器,适合研究或部署 Qwen Sparse Attention 的人。
empero-ai · 工具包
在手机、笔记本和单板计算机上运行小型 2B 推理模型,提供五种量化等级的 GGUF 文件。由 Empero 打包,是大型 Qwen3.8 模型的蒸馏版本,适用于 llama.cpp。
Comfy-Org · 工具包
为 ComfyUI 文本编码器文件夹重新打包的 Qwen3.5 2B、4B 和 9B 模型文件,9B 提供 bf16 和两种量化风格。适合需要 Qwen3.5 文本编码器的 ComfyUI 用户。
bytkim · 工具包
为 Pi 智能体框架调优的 27B 编程模型,训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈,推理强度可调。适合运行编程智能体的开发者。
beipo-ai · 工具包
读取截图和请求,然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型,激活参数 3B。
z-lab · 工具包
一个草稿模型,通过提出一整块词元让主模型检查,来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。
unsloth · 工具包
Unsloth 制作的 Qwen2.5-VL-7B-Instruct 的 GGUF 文件,这个视觉语言模型能读图像、图表、文档和长视频,还能输出坐标和结构化数据。适合在本地运行它的人。
Qwen · 工具包
Qwen 的小型 2B 模型,读取文字和图片并用文字回复,适合用 transformers 库做原型、微调或研究的开发者。
nvidia · 工具包
NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频,可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。
kkt94 · 工具包
用一个 5.1B 的模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Qwen3-4B-Instruct-2507 上,适合有 16 GB 以上 GPU 的人。
kkt94 · 工具包
用一个 2B 的模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Qwen3-1.7B 上,适合只有一块普通 GPU 的人。
JoyIndustrial · 工具包
以选项和概率回答关于文本和图像的结构化问题,是京东工业推出的决策系统,基于 Qwen3.8-27B 并内置 OCR。适合需要分派或分类请求的团队。
JonathanColetti · 工具包
直接编辑两个权重张量,不经训练,修复 Qwen3.5-0.8B 在思考模式下陷入的重复循环。这是一个小型图文模型,可用于 Transformers、vLLM、llama.cpp 和浏览器。
incoai · 工具包
一次起草多个 token 让主模型去核对,以此加快 Qwen3.8-Flash-Next,适合用 SGLang 部署该模型、想更快出结果又不改动它的工程师。
ggml-org · 工具包
以 GGUF 文件形式运行 Qwen3.8-27B,这是一个 26.9B 的模型,能读图片和文字并用文字回复,通过 llama 工具在本机使用,适合想把它放在自己电脑上的你。
empero-ai · 工具包
在笔记本或中端显卡上运行 4B 推理模型,提供五种量化等级的 GGUF 文件。由 Empero 打包,是大型 Qwen3.8 模型的蒸馏版本,适用于 llama.cpp 等应用。
prithivMLmods · 工具包
ccore 的 Qwen3.5-4B-3D-Coder 的重新打包版本,一个为编程回答和 Three.js 3D 场景调优的小模型,附带支持多词元预测的 GGUF 文件。
empero-ai · 工具包
回答前先一步步推理,使用 35B 的混合专家模型,每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来,侧重数学和代码。
unsloth · 工具包
Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本,用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。
sabicap · 工具包
基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型,报告了更高的终端和编程智能体得分,适合构建编程和调用工具智能体的开发者。