Qwen3.8-27B iMatrix NVFP4 MTP GGUF
cdiamond · 工具包
Qwen3.8-27B 的 17.1 GB 混合精度 GGUF,保留了多词元预测层,为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
cdiamond · 工具包
Qwen3.8-27B 的 17.1 GB 混合精度 GGUF,保留了多词元预测层,为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。
bespokelabs · 工具包
传入上下文和带类型的问题(选择题、是非题或有序评分),为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本,适合构建分类器和决策步骤的开发者。
agentionai · 工具包
比 Qwen3.8-27B 回答更简短直接,使用更少的回答和思考 token,因此回复结束得更早。这是一次轻量微调,可以直接用在与基础模型相同的工具里。
xtools-at · 工具包
用三个 Qwen3.8-27B 微调版本加权合并而成的模型,可编写和解释代码,也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。
incoai · 工具包
通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B,一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。
flechin · 工具包
一个 27B 推理模型,经过微调后倾向于直接回答而不是含糊其辞,并量化为 MXFP4,让 vLLM 能在单块 32 GB GPU 上提供服务,适合运行本地推理和工具调用模型的开发者。
empero-ai · 工具包
把 Qwen3.8-27B 压缩成每权重 3.7 位的 GGUF 文件来运行,适合 16 GB 的 GPU,还可选图像输入。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。
ragentile · 工具包
用强化学习调优的模型,用于编写并加速 GPU 内核,基于 Qwen 底座,用编译、正确性和计时反馈训练。适合做 GPU 性能工作的开发者。
Qwen · 工具包
Qwen 的 27B 模型,读取文字和图片并用文字回复,针对编程智能体和仓库级工作调校,适合用 transformers 库运行它的开发者。
oguzeldereli · 工具包
把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件,可在 12 GB 显卡上运行,有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。
dglhf · 工具包
帮助完成智能体式编码,包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional,适合从事数据库代码和编码智能体的开发者。
bartowski · 工具包
bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本,从 Q8_0 到 3-bit,用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。
bartowski · 工具包
bartowski 用重要性矩阵为 Jackrong 的 Qwopus3.8-27B-Coder-Flash 制作的 GGUF 量化版本,大小从 17 GB 到 55 GB。适合在本地用 llama.cpp 运行 27B 模型。
vllm-sr · 工具包
用一次调用回答关于文字、图像或视频的选择、是非和打分问题,为每个答案返回概率而不是文字。这是 27B 的决策模型,适合做路由和分流的开发者。
turboderp · 工具包
Qwen3.8-27B 的 EXL3 量化版本,提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。
sweetand · 工具包
帮助 1C:Enterprise 平台上的开发者读取和修改 BSL 代码,并在 XML 导出里查找对象。这是以俄语为主的 Qwen3.8-27B 微调版本,这里提供 GGUF 格式。
StillDeadcode · 工具包
把 Qwen3.8-27B 压缩成十五种大小,每个权重约 2.5 到 8 位,面向 AMD RDNA4 GPU 上的 radiance 引擎,内含图片读取和提速草稿器。
Qwen · 工具包
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
prism-ml · 工具包
把 27B 级推理模型做成约 3.9 GB 的 1-bit GGUF 文件,在 llama.cpp 上运行,笔记本或一张显卡就能放下。适合想在日常硬件上做本地推理的人。
mlx-community · 工具包
Qwen3.8-27B 的 4 位 MLX 转换版,能读文字和图像并用文字回答,用 mlx-vlm 工具运行。适合想在本地运行视觉语言模型的开发者。
lmstudio-community · 工具包
Qwen 的 Qwen3.8-27B 的 GGUF 量化版本,由 LM Studio 团队用 llama.cpp 制作,适合在自己电脑上运行 27B 模型的人。
higa2515 · 工具包
在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重,附带参考用的 Transformers 加载器,适合研究或部署 Qwen Sparse Attention 的人。
ErtasAI · 工具包
压缩到 22 GB 的开放权重医学语言模型,最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。
bytkim · 工具包
为 Pi 智能体框架调优的 27B 编程模型,训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈,推理强度可调。适合运行编程智能体的开发者。
z-lab · 工具包
一个草稿模型,通过提出一整块词元让主模型检查,来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。
vllm-sr · 工具包
对同一份文本、图片或视频输入一次回答多个问题,为每个答案给出概率,不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。
JoyIndustrial · 工具包
以选项和概率回答关于文本和图像的结构化问题,是京东工业推出的决策系统,基于 Qwen3.8-27B 并内置 OCR。适合需要分派或分类请求的团队。
ggml-org · 工具包
以 GGUF 文件形式运行 Qwen3.8-27B,这是一个 26.9B 的模型,能读图片和文字并用文字回复,通过 llama 工具在本机使用,适合想把它放在自己电脑上的你。
unsloth · 工具包
Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本,用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。
sabicap · 工具包
基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型,报告了更高的终端和编程智能体得分,适合构建编程和调用工具智能体的开发者。
nvidia · 工具包
NVIDIA 把阿里巴巴 Qwen3.8-27B 压缩成 4 位 NVFP4 的版本,用 Model Optimizer 制作,面向 Blackwell GPU,输入文字、图片和视频,输出文字。
kusuriya-labs · 工具包
一个把 Qwen3.8-27B 剪掉一半层数再重新训练的实验,得到一个 14.7B 的日英模型,作者称它目前还不实用。
Jackrong · 工具包
作为 Qwen3.8-27B 的 GGUF 微调版,帮你写代码并胜任会调用工具的智能体任务,用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。
Sparset · 工具包
Thinklite-27B 的 4 位 GGUF 版本,适用于 llama.cpp,每次回答比基础模型用更少的推理,适合在本地运行 27B 文本模型的人。
higa2515 · 工具包
用 GGUF 文件运行带稀疏注意力的 Qwen3.8-27B,提供 Q8_0 和 Unsloth 的 Q4、Q5、Q6 混合版本,支持文字、图片和视频输入。适合使用 NVIDIA 显卡的 Linux 用户。
Cloudflare · 工具包
Cloudflare 的 27B 多模态模型,针对文本、JSON、图片或视频输入,为带类型的问题给出每个允许答案的分数,而不是写出自由文本。
AtomicChat · 工具包
用六种尺寸的 GGUF 文件运行 Nous Research 的 Arete 27B,这是 Qwen3.8-27B 的微调版,能读文字和图像,并附有实测的质量损失。适合在自己 GPU 上运行大模型的人。
Teriminal-RSI · 工具包
处理多步骤的终端任务,比如检查仓库、编辑代码和修复依赖。这是一个基于 Qwen3.8-27B 的 27.8B 参数智能体模型,面向研究者和智能体构建者。
Qwen · 工具包
用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频,它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。
DavidAU · 工具包
以 GGUF 形式运行 Qwen3.8-27B,带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。
baselabs · 工具包
一次性回答关于某个情境的一组问题,并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 27B 决策模型,由 Qwen3.5-27B 调整而来。
byteshape · 工具包
用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件,提供五种适合不同显卡的版本,在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。
Sparset · 工具包
Qwen3.8-27B 的一个变体,推理用的 token 少得多,高强度下最终答案约快一倍,适合运行推理模型并希望等待更短的人。
aj9o9 · 工具包
一个 GGUF 草稿模型,通过推测解码在 llama.cpp 里加速 Qwen3.8-27B,在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token,适合在本地运行 Qwen3.8-27B 的人。
BAAI · 工具包
用 BAAI 的 27B 模型,通过多轮提出、测量、反思和修改来改进自己的解答,适合做编程、机器学习和深度研究任务的智能体研究者和开发者。
ISTA-DASLab · 工具包
ISTA-DASLab 制作的 Qwen3.8-27B GGUF 版本,共四种大小,每个张量用各自的精度量化,并带有处理图片的视觉投影文件。适合在 llama.cpp、Ollama 或 LM Studio 里本地运行模型的人。
tencent · 工具包
五层草稿模型,为 Qwen3.8-27B 并行猜测 16 个 token,再由大模型一并检查。适合部署该模型的团队。
Qwen · 工具包
能读懂文字、图片和视频并用文字回复的 27B 开源模型,面向编程、研究和多步骤智能体任务,适合自己部署模型的开发者。