开发者 AI 技能与智能体

Hemmingway-1.5 GGUF

bartowski · 工具包

HemmingwayAI 的 Hemmingway-1.5 的 imatrix GGUF 量化版本，这是一个 27B 文本模型，支持 MTP 推测解码，并有推理强度提示格式。适合在本地运行大模型的人。

Qwen3.8-27B-DFlash2-GGUF

z-lab · 工具包

GGUF 格式的草稿模型，通过提出词元块让主模型验证来加速 Qwen3.8-27B。适合在本地用 llama.cpp 运行该模型的人。

Spark-X2.6-1.7B-Base

XHToken · 工具包

一个紧凑的 1.7B 语言模型，面向设备端使用，支持英文和中文，在编程、智能体任务和长上下文上有提升，并有三档可调的思考级别。适合在本地运行模型的开发者。

Qwen3.6-27B-GGUF

unsloth · 工具包

在本地处理智能体编码和图文任务，是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件，支持思考保留和长上下文。适合运行本地编码智能体的开发者。

Qwen2.5-Coder-7B-Instruct-GGUF

unsloth · 工具包

在你自己的电脑上编写、解释和修复代码，是 Unsloth 提供的 Qwen2.5-Coder 7B 指令模型的 GGUF 副本。适合想要本地编码助手的开发者。

gpt-oss-120b-GGUF

unsloth · 工具包

用 Unsloth 制作的 GGUF 文件运行 OpenAI 的开放权重模型 gpt-oss-120b，它有 117B 参数，其中 5.1B 处于激活状态，文件带有 Unsloth 的修复。面向推理、智能体任务和开发者使用。

gemma-3-27b-it-GGUF

unsloth · 工具包

用 Google 的 Gemma 3 27B 指令微调模型回答关于文本和图像的问题，提供 Unsloth 制作的 GGUF 文件，可在你自己的电脑上运行。支持 128K 词元上下文。

Clef-LoRA-for-Qwen3.8-27B-GGUF

trevest · 工具包

把 Cloudflare Clef 的决策头加到 Qwen3.8-27B 聊天模型上，让一台 24 GB GPU 上的 llama.cpp 服务器既能回答带类型的问题，也能聊天。它是 LoRA 适配器，不是独立模型。

Qwen3.8-27b-Terse-Coder-LoRA

Shockem · 工具包

缩短 Qwen3.8-27B 在编程任务上的推理长度，让答案更快出来，以一个小型 LoRA 适配器的形式提供。适合在自己硬件上运行基础模型的人。

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen2.5-Coder-7B

Qwen · 工具包

作为 7.6B 的基础语言模型来补全和生成代码，开发者可以运行它、微调它，或用于代码中间填充任务。适合制作编程工具的人。

Qwen2.5-7B-Instruct-AWQ

Qwen · 工具包

Qwen2.5-7B-Instruct 的 4 位 AWQ 版本，一个 7.6B 的聊天模型，能遵循指令、处理表格并返回 JSON。适合想要更小内存占用的强力聊天模型的开发者。

Qwen2.5-14B-Instruct

Qwen · 工具包

这是一个 14.7B 参数的对话模型，能回答问题、写代码、做数学题并输出结构化 JSON，上下文最长 131,072 个 token。适合想自己运行开源模型的开发者。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

Bonsai-1.7B-unpacked

prism-ml · 工具包

1 位 Bonsai-1.7B 模型的 FP16 safetensors 副本，用于在标准 Hugging Face 工具里运行它。模型卡建议改用原生 1 位版本，那些版本更小也更快。

Qwen3.8-27B Fable-5 Coding Distilled GGUF

mradermacher · 工具包

一个 27.3B、经过编程蒸馏的 Qwen3.8 模型的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行编程模型、需要一个放得进内存的尺寸的开发者。

VulnLLM-R-7B-8bit

mlx-community · 工具包

通过 mlx-lm 运行 VulnLLM-R-7B 的 8 位 MLX 版本，用于文本生成。适合想在本地试用该模型的开发者。模型卡没有说明它的训练用途。

Mistral-7B-v0.1

mistralai · 工具包

作为 7B 预训练基础模型生成并续写文字，适合想要一个起点来测试、微调或在其上开发的研究人员和开发者。

Mistral-7B-Instruct-v0.1

mistralai · 工具包

Mistral 推出的 7B 指令微调聊天模型，基于 Mistral-7B-v0.1，用公开的对话数据集微调。适合想要一个能遵循提示词的小型开放模型的开发者。

harrier-oss-v1-27b

microsoft · 工具包

把多种语言的文本转成嵌入向量，用于搜索、聚类、相似度、分类和重排序。适合做语义搜索或检索、并且能部署 27B 模型的开发者。

Qwen3.8-27B-MLX-8bit

lmstudio-community · 工具包

在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型，适合想在本地回答图片问题的人。

Qwen3.8-27B-oQ8e-mtp

Jundot · 工具包

把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点，带视觉编码器和 MTP 头，用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。

Qwen3.8-27B-oQ4e-mtp

Jundot · 工具包

在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型，能读取文字、图片和视频，上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本，适合内存有限的人。

JDI-Decision-V0.9

JoyIndustrial · 工具包

用内置 OCR 的 Qwen3.8-27B 决策系统，针对图像和文字回答选择题式的问题，并给出各选项的概率。适合需要从图片得到结构化选择的开发者。

Qwopus3.8-27B-Flash-GGUF

Jackrong · 工具包

为长时间的智能体任务缩短推理时间、降低成本，是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

K2-Horizon-3.7B-GGUF

IFM · 工具包

3.7B 参数 K2-Horizon 文本模型的 GGUF 文件，提供从 BF16 到 Q4_K_M 的六种精度，用于 llama.cpp 运行。模型有 512K token 的上下文窗口。

ALLaM-7B-Instruct-preview

humain-ai · 工具包

用阿拉伯语和英语回答问题、遵循指令。这是沙特数据与人工智能管理局（SDAIA）下属国家人工智能中心从零训练的 7B 模型，适合构建阿拉伯语工具的开发者和研究人员。

Darwin-27B-ZTC

FINAL-Bench · 工具包

读取一个情境和一组带类型的问题，一次前向计算就为每个选项返回概率，不生成任何文字。适合给工作流增加校准决策步骤的开发者。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

Kvark-Sparkle-1.0-27B

Egzakta · 工具包

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

Qwen3.8-27B Splash 8-bit

dmeight · 工具包

在 Apple silicon 的 LM Studio 里，通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包，比 4-bit 版本更接近原始模型，但速度更慢。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

Qwen3-ASR-1.7B GGUF

cstr · 工具包

用 Qwen3-ASR-1.7B 的量化 GGUF 文件，在 CrispASR 里把语音、歌声和歌曲转成文字或英文。适合想在本地转写 30 种语言和 22 种中文方言的人。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

UI-TARS-1.5-7B

ByteDance-Seed · 工具包

一个开放的多模态智能体模型，能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。

SalamandraTA-7b-instruct

BSC-LT · 工具包

一个 7.8B 的翻译模型，支持 40 种语言和 3 种变体，可做句子、段落和文档翻译，也能处理 HTML 或 XML 文本。适合想要本地翻译器的开发者和研究人员。

Qwen3.8-Whittle-MoE-27B-MLX-4bit

barozp · 工具包

面向 Apple Silicon 的 4 位 MLX 版本，来自从稠密的 Qwen3.8-27B 切出来的混合专家模型，总参数 27B，激活 17.8B。适合用 mlx-lm 运行本地模型的人。

ERNIE-4.5-VL-28B-A3B-Thinking

baidu · 工具包

读取图像和文字并进行推理，29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。

Qwen3.8-27B-NVFP4-DGX-SPARK

autotrust · 工具包

在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍，权重不变，只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。

evo2_7b

arcinstitute · 工具包

一个 7B 的 DNA 语言模型，可读取最长 100 万长度的序列，来自 Arc Institute 的 Evo 2 系列。适合处理基因组数据、想要中等大小检查点的研究者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

OLMoE-1B-7B-0924

allenai · 工具包

用运行成本较小的混合专家模型续写英文文本，激活参数 1B，总参数 7B。代码、数据和检查点全部开放，适合使用 transformers 的研究人员和开发者。

Hy-MT2-7B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。

Qwen3.8-27B Agention Precision GGUF

agentionai · 工具包

把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件，有八种大小，从 8.95 到 16.35 GiB，另附视觉投影器。作者称在每个大小上，它与 BF16 模型的偏离都比其他量化版本小。

Tessera-27B-B-CJK-RL

ZelligeAI · 工具包

用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环，每轮花更少的思考词元。适合自己托管大模型的开发者。

AgentForesight-7B

ZBox008003 · 工具包

在多智能体运行展开时进行审计，标出最早的决定性错误，并指出出错的步骤、智能体和简短原因。适合构建和调试智能体团队的开发者。

Unity Coder 7B

vishnuOI · 工具包

解答 Unity 游戏开发问题，编写 C# 脚本、XR 代码和编辑器工具，是 Qwen2.5-Coder-7B-Instruct 的微调版本。适合想要本地编码助手的 Unity 开发者。

Qwen3.6-27B-MTP-GGUF

unsloth · 工具包

用 Qwen3.6 27B 写代码和推理，提供 Unsloth 制作的、带多词元预测的 GGUF 文件，卡片说回复能快约 1.5 到 2 倍，且不损失准确度。为编程智能体而做。

Qwen3-1.7B-GGUF

Qwen · 工具包

提供 Qwen3 1.7B 小型对话模型的 q8_0 GGUF 文件，供 llama.cpp 使用，可在思考与非思考回复之间切换。适合想要轻量本地助手的人。

Qwen3-1.7B-Base

Qwen · 工具包

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

Qwen3-1.7B

Qwen · 工具包

一个紧凑的 1.7B 聊天模型，可在用于推理的思考模式和用于对话的快速模式之间切换。适合想用小型开放模型做聊天、翻译和智能体功能的开发者。

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Qwen2.5-7B-Instruct

Qwen · 工具包

这是一个 7.6B 参数的指令微调模型，能聊天、写代码、做数学题并输出结构化 JSON，上下文最长 131,072 个 token。适合需要在单台电脑上运行小型开源模型的开发者。

1-bit Bonsai 27B (MLX)

prism-ml · 工具包

在 Apple MLX 上运行一个每个权重压成 1 比特、约 3.9 GB 的 27B 级推理模型，上下文 262K 词元。适合想在手机或笔记本上用大模型的开发者。

Bonsai-1.7B-GGUF

prism-ml · 工具包

用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本，适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。

Qwen3.8-27B-QSA-GSQ-RCO-GGUF

pentacoxian-dev · 工具包

在一块 24 GB 的 GPU 上，以 262K token 的上下文和图片输入运行带稀疏注意力的 Qwen3.8-27B，是 GGUF 文件，适合有定制版 llama.cpp 引擎的人。

OneJev1.6-27B

OmniJev · 工具包

读取截图、照片、视频或文字，再结合你输入的问题，为每个答案选项给出概率，比如智能体下一步该做什么、任务是否完成。

Qwen3.8-27B-CodeForge-3xMerge i1 GGUF

mradermacher · 工具包

Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版，大小约 11 GB 到 22.5 GB，用于本地运行。适合在自己电脑上运行 27B 模型的人。

Morphy1.1-Coder-Beta-7B-GGUF

moolvylabs · 工具包

moolvylabs 的 7.6B 编程模型，提供 GGUF 形式，作为测试版发布并征求反馈。卡片很简短，目前没有运行步骤、基准或训练细节。

Tess-4.5-27B GGUF

migtissera · 工具包

Tess-4.5 的 GGUF 版本，这是一个 27B 开放权重的编程和智能体模型，供 llama.cpp 使用，带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。

Qwen3.6-35B-A3B lododo-Distill-v1.0 (GGUF)

lododoai · 工具包

一个可在本地运行的文本模型，是 Qwen3.6-35B-A3B 的微调版本，用 Qwen3.8-27B 生成的数据训练，打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。

Qwen3.8-27B-Fable-5-Coding-Distilled

khazarai · 工具包

在提出修复方案前先检查真实文件，来调试和评审代码。这是 Qwen3.8-27B 的微调版，用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。

Slonik-27B-oQ8-mtp

kakoka · 工具包

用一个 27B 编码模型帮你编写和修改 PostgreSQL 源代码，8 位量化，可通过 oMLX 在 Apple Silicon Mac 上本地运行。适合想要本地助手的 PostgreSQL 开发者。

Qwen3.8-27B-SLQ-GGUF

kaitchup · 工具包

用自定义的统计无损量化，把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。

Qwen3.8-27B-oQ6e-mtp

Jundot · 工具包

Qwen3.8-27B 的混合精度 MLX 副本，约每个权重 6.9 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

Qwen3.8-27B Astra stop edit

jarrodwatts · 工具包

给 Qwen3.8-27B 的一个小型权重修改，附带应用它的脚本，只改动一个矩阵、不需要训练，就能缩短模型在开放式任务上的思考长度。

Qwopus3.8-27B-Flash-V2-GGUF

Jackrong · 工具包

减少长时间智能体任务里被浪费的推理，是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本，Python 格式更好。适合在本地跑智能体循环的人。

Qwopus3.8-27B-Coder-Flash

Jackrong · 工具包

写代码、调用工具，作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型，用约 200,000 条代码和推理样例训练，适合有强力 GPU 的开发者。

Qwen3.8-27B-DFlash2

incoai · 工具包

通过起草一整块 token 让主模型验证，来加速 Qwen3.8-27B，输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型，不是独立的聊天模型。

K2-Horizon-7B-Uno

IFM · 工具包

给 IFM 的 K2-Horizon-7B 语言模型加上扩散通路的 LoRA 适配器，用于研究更快的文本生成。它只包含适配器，不含基础权重。

K2-Horizon-7B-GGUF

IFM · 工具包

IFM 的 K2-Horizon-7B 文本模型的量化 GGUF 副本，可在 llama.cpp 中本地运行，从 BF16 到 4 位都有，上下文窗口为 512K 词元。

Holo4-27B

Hcompany · 工具包

查看截图并决定下一步的点击、按键、代码运行或工具调用，基于 Qwen3.8-27B。这是面向网页、桌面和手机智能体的电脑操作模型，采用非商业许可。

Qwen3.8-27B Intel Arc Tuned

Greatjedi · 工具包

提供为 Intel Arc GPU 重新调整的 27B Qwen3.8 GGUF 文件，作者的测试里纯解码约每秒 22 个词元。适合在 Arc 显卡上用 llama.cpp 和 SYCL 的人。

KVARK Sparkle 1.1 27B GGUF

Egzakta · 工具包

用多种大小的 GGUF 文件运行 27B 的 KVARK Sparkle 1.1 模型，可选图像输入和推测解码。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。

KVARK Sparkle 1.1 (27B)

Egzakta · 工具包

一个专门做文档工作的 27B 模型：它会搜索文档库，根据找到的内容回答，找不到答案时会明说，适合做文档和搜索智能体的开发者。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

Qwen3.8-27B-Jumbo-Fusion-IQ-747-900-Turbo-Brilliance-50X

DavidAU · 工具包

DavidAU 对 27B Qwen 模型的 GGUF 微调版，有可切换的指令和推理模式，以及内置的帮助系统。Hugging Face 把它列为图文转文字。供本地运行。

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

DavidAU · 工具包

回答问题并读取图像，思考过程短得多。这是 DavidAU 对 27B 的 Qwen 3.8 的调优版 GGUF，目标是在保持准确度的同时减少推理 token，适合在本地运行模型的人。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

Qwen3.8-27B iMatrix NVFP4 MTP GGUF

cdiamond · 工具包

Qwen3.8-27B 的 17.1 GB 混合精度 GGUF，保留了多词元预测层，为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。

Nimble-v4-max

bespokelabs · 工具包

传入上下文和带类型的问题（选择题、是非题或有序评分），为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本，适合构建分类器和决策步骤的开发者。

KAT-Coder-V2.5-Dev GGUF

bartowski · 工具包

Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本，这是一个 34.7B 文本模型，4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。

Signal 3.8 27B

agentionai · 工具包

比 Qwen3.8-27B 回答更简短直接，使用更少的回答和思考 token，因此回复结束得更早。这是一次轻量微调，可以直接用在与基础模型相同的工具里。

Jocasta-diff-VLA

RobotLearningLab · 工具包

把 Dream-VLA-7B 适配到 robosuite 中八类模拟 Panda 机械臂任务的机器人控制策略，使用 Flow Matching 动作头。适合有 CUDA GPU 的机器人研究者。

Qwen3.8-27B-CodeForge-3xMerge

xtools-at · 工具包

用三个 Qwen3.8-27B 微调版本加权合并而成的模型，可编写和解释代码，也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。

Spark-X2.6-1.7B-DSpark-GGUF

XHToken · 工具包

一个小型草稿模型，通过推测解码加速 Spark-X2.6-1.7B，每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。

gemma-4-31B-it-scotoma-2-GGUF

ReadyArt · 工具包

这个模型是 ReadyArt 从自家 gemma-4-31B-it-scotoma-2 打包出来的 GGUF 版本，参数量 30.7B，可在本地运行。适合想以 GGUF 形式使用这个模型的人。

Qwen3.8-27B-Splash

incoai · 工具包

通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B，一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。

SmolLM2-1.7B-Instruct

HuggingFaceTB · 工具包

聊天、改写和总结文本，还能调用函数，是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2，适合想要小型英文模型的开发者。

Qwen3.8-27B-Randean-MXFP4

flechin · 工具包

一个 27B 推理模型，经过微调后倾向于直接回答而不是含糊其辞，并量化为 MXFP4，让 vLLM 能在单块 32 GB GPU 上提供服务，适合运行本地推理和工具调用模型的开发者。

Qwen3.8-27B-Ridge-GGUF

empero-ai · 工具包

把 Qwen3.8-27B 压缩成每权重 3.7 位的 GGUF 文件来运行，适合 16 GB 的 GPU，还可选图像输入。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。

Jasper-K-27B

ragentile · 工具包

用强化学习调优的模型，用于编写并加速 GPU 内核，基于 Qwen 底座，用编译、正确性和计时反馈训练。适合做 GPU 性能工作的开发者。

Qwen3.6-27B

Qwen · 工具包

Qwen 的 27B 模型，读取文字和图片并用文字回复，针对编程智能体和仓库级工作调校，适合用 transformers 库运行它的开发者。

Qwen2.5-Coder-7B-Instruct

Qwen · 工具包

编写、解释和修复代码，是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。

ttf-Qwen3.8-27B-GGUF

oguzeldereli · 工具包

把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件，可在 12 GB 显卡上运行，有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。

Slonik

dglhf · 工具包

帮助完成智能体式编码，包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional，适合从事数据库代码和编码智能体的开发者。

LFM2.5-2.6B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统，有 12 种推理模式和 12 种指令模式，在提示词里切换。2.7B 测试版，供本地运行。

SeedVR2

Comfy-Org · 工具包

借助 ByteDance Seed 的 SeedVR2 3B 和 7B 重新打包的文件，在 ComfyUI 里放大图片和视频，提供多种精度格式。适合在自己电脑上用 ComfyUI 做放大的用户。