NousCoder-14B
NousResearch · 工具包
为竞赛编程题写代码的模型,在 Qwen3-14B 基础上用强化学习继续训练,训练题共 24k 道,答案都可以检验。适合想在自己电脑上运行代码模型的开发者。
NousResearch · 工具包
为竞赛编程题写代码的模型,在 Qwen3-14B 基础上用强化学习继续训练,训练题共 24k 道,答案都可以检验。适合想在自己电脑上运行代码模型的开发者。
mradermacher · 工具包
Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版,大小约 11 GB 到 22.5 GB,用于本地运行。适合在自己电脑上运行 27B 模型的人。
moolvylabs · 工具包
moolvylabs 的 7.6B 编程模型,提供 GGUF 形式,作为测试版发布并征求反馈。卡片很简短,目前没有运行步骤、基准或训练细节。
migtissera · 工具包
Tess-4.5 的 GGUF 版本,这是一个 27B 开放权重的编程和智能体模型,供 llama.cpp 使用,带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。
microsoft · 工具包
一个紧凑的编程智能体模型,通过名为 Leaf 的五工具框架在代码仓库里查找问题、编辑文件并运行测试。适合想用小模型修复软件问题的开发者。
meituan-longcat · 工具包
总参数 69B、每个 token 约激活 3B 的混合专家文本模型,采用稀疏注意力,支持 100 万 token 上下文。适合为编程和工具使用智能体托管长上下文模型的团队。
maylore-ai · 工具包
42 亿参数的 Rust 编程模型,基于 Qwen3.5-4B,能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。
lododoai · 工具包
一个可在本地运行的文本模型,是 Qwen3.6-35B-A3B 的微调版本,用 Qwen3.8-27B 生成的数据训练,打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。
Kwaipilot · 工具包
Kwaipilot 的开放权重编程模型,混合专家结构,总参数 35B,激活 3B,针对智能体编程做了调优,工具调用出错更少。可用于 transformers、vLLM 和 SGLang。
khazarai · 工具包
在提出修复方案前先检查真实文件,来调试和评审代码。这是 Qwen3.8-27B 的微调版,用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。
kakoka · 工具包
用一个 27B 编码模型帮你编写和修改 PostgreSQL 源代码,8 位量化,可通过 oMLX 在 Apple Silicon Mac 上本地运行。适合想要本地助手的 PostgreSQL 开发者。
Jackrong · 工具包
写代码、调用工具,作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型,用约 200,000 条代码和推理样例训练,适合有强力 GPU 的开发者。
ErtasAI · 工具包
在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型,它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。
Egzakta · 工具包
用多种大小的 GGUF 文件运行 27B 的 KVARK Sparkle 1.1 模型,可选图像输入和推测解码。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。
Egzakta · 工具包
KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件,适用于 llama.cpp、Ollama 和 LM Studio,保留了推测解码头。适合在本地运行大模型的人。
byteshape · 工具包
用带多词元预测的 GGUF 量化版本运行 Qwen3.6-35B-A3B,在 llama.cpp 里让 GPU 解码更快。由 ByteShape 制作,适合在显卡上运行本地模型的人。
bartowski · 工具包
Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本,这是一个 34.7B 文本模型,4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。
AQ-MedAI · 工具包
一个小型草稿模型,通过 SGLang 里的推测解码加速 Ling-3.1-Flash,每次草拟 5 个或 7 个 token。适合在 NVIDIA GPU 上部署 Ling-3.1-Flash 的团队。
zai-org · 工具包
zai-org 推出的 753B 参数开放文本模型,适合编程和智能体这类长链条多步工作,有 1M 词元上下文,采用 MIT 许可证。适合拥有大型 GPU 集群的团队。
YoSaNoo · 工具包
一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型,偏向写代码,以 GGUF 文件发布,可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。
xtools-at · 工具包
用三个 Qwen3.8-27B 微调版本加权合并而成的模型,可编写和解释代码,也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。
XHToken · 工具包
一个小型草稿模型,通过推测解码加速 Spark-X2.6-1.7B,每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。
thinkingmachines · 工具包
Inkling-Small 的 NVFP4 版本,一个多模态混合专家模型,接收文本、图像和音频并输出文本。适合构建智能体、编程助手和其他 AI 应用的开发者。
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列中最大的指令微调模型,32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。
Qwen · 工具包
提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。
Qwen · 工具包
提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。
ornith-ai · 工具包
处理编程和终端任务,是一个适合单张 GPU 的 9B 稠密语言模型。适合想用小型开源模型做软件开发的开发者,另有面向手机的移动版本。
ornith-ai · 工具包
提供 Ornith-1.5-122B 的 NVFP4 量化副本,这是一个面向单 GPU 使用、在编程测试里表现突出的 122B 混合专家文本模型。适合自己托管大模型的开发者。
NaiveAI · 工具包
开放权重的混合专家模型,总参数 309B,激活 15.5B,原生 100 万 token 上下文,为编程和 AI 研究而构建。适合在自己服务器上运行大型编程模型的团队。
anik-jha · 工具包
用砍掉一半专家的 Qwen3.6-35B-A3B 写代码,打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。
XHToken · 工具包
作为推测解码的小型草稿模型,为 Spark-X2.6-4B 加速文本生成,提供 GGUF 格式。适合用 llama.cpp 在本地运行该模型的人。
XHToken · 工具包
一个 4.1B 的语言模型,面向设备端使用,针对编码、智能体任务、长上下文和推理做了调优,支持英文和中文,并有三档思考级别。适合本地运行模型的开发者。
SolsticeAI · 工具包
为 llama.cpp 和 Ollama 提供 33.1B 的 Nanbeige4.3 模型的 GGUF 量化文件,附带一套推理协议和最高 524,288 个词元的上下文。适合在本地运行编程模型的开发者。
unsloth · 工具包
在你自己的机器上运行 Ornith-1.5-122B 文本模型,由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型,面向单块 GPU 上的编程和智能体工作。
Qwen · 工具包
读取文本和图像并输出文本,是 Qwen3.6-35B-A3B 的 FP8 版本,激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。
Qwen · 工具包
Qwen 的 27B 模型,读取文字和图片并用文字回复,针对编程智能体和仓库级工作调校,适合用 transformers 库运行它的开发者。
Qwen · 工具包
作为编程智能体模型使用,总参数 80B、激活参数 3B,上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。
Qwen · 工具包
用 4B 模型回答对话提示,不显示思考过程,可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。
PCL-RSI-lab · 工具包
用一个会自我改进的编程智能体修复软件 bug,它从自己成功的运行中学习可复用的推理模式,适合做仓库级 bug 修复的开发者和研究人员。
openbmb · 工具包
提供 MiniCPM5-2B 的 GGUF 文件,这是一个支持中英文的小型稠密文本模型,适合在设备上和本地使用。适合想在普通硬件上用紧凑模型做编程、数学和工具调用的人。
google · 工具包
读取文字和图片并输出文字,适合想在自己的 GPU 或工作站上,用 Google DeepMind 开放权重模型做编程、推理和图片提问的开发者。
errrinn · 工具包
禁用 Simple Wikipedia 中常见的词对之后,用古怪的网络聊天口吻回答。这是一个 4.3B 参数的 Gemma 3 实验,适合好奇约束解码如何改变模型语气的人。
dglhf · 工具包
帮助完成智能体式编码,包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional,适合从事数据库代码和编码智能体的开发者。
bartowski · 工具包
bartowski 用重要性矩阵为 Jackrong 的 Qwopus3.8-27B-Coder-Flash 制作的 GGUF 量化版本,大小从 17 GB 到 55 GB。适合在本地用 llama.cpp 运行 27B 模型。
unsloth · 工具包
Qwen3.5 9B 的 GGUF 版本,支持在 llama.cpp 里用多词元预测做推测解码,生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。
peculiar-ragdoll · 工具包
4B 编程模型 Spark-X2.5 的压缩 GGUF 版本,针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。
peculiar-ragdoll · 工具包
替换 Qwen3.5、3.6 和 3.8 模型的聊天模板,让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
inclusionAI · 工具包
处理复杂的智能体、搜索、办公和编程工作,总参数 560B,激活参数 25B,上下文 1M token。服务示例使用多 GPU 服务器上的 SGLang,权重以 MIT 许可开放。