Qwen3.6-27B-MTP-GGUF
unsloth · 工具包
用 Qwen3.6 27B 写代码和推理,提供 Unsloth 制作的、带多词元预测的 GGUF 文件,卡片说回复能快约 1.5 到 2 倍,且不损失准确度。为编程智能体而做。
unsloth · 工具包
用 Qwen3.6 27B 写代码和推理,提供 Unsloth 制作的、带多词元预测的 GGUF 文件,卡片说回复能快约 1.5 到 2 倍,且不损失准确度。为编程智能体而做。
unsloth · 工具包
在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型,借助多 token 预测加快生成,使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。
unsloth · 工具包
用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型,自带用于推测解码的草稿模型,可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。
TokenRhythm · 工具包
从 Qwen3.5-9B 后训练而来的 9B 文本模型,面向智能体框架、工具调用、编程和指令遵循,只发布文本权重。适合在自己硬件上运行智能体的开发者。
speakleash · 工具包
作为草稿模型与 Bielik-11B-v3.1-Instruct 配对,在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。
speakleash · 工具包
作为 DFlash 草稿模型,与 Bielik-11B-v3.1-Instruct 配对,在 SGLang 或 vLLM 里做推测解码。它不是独立的语言模型。适合自己部署 Bielik 的人。
reflection · 工具包
这个模型读写文本,上下文 1M 个 token,主打编程、智能体调用工具和数学推理,是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。
ProCreations · 工具包
根据工具调用、用户请求和历史,判断编程智能体提出的工具调用是否应该执行,回答批准或拒绝。这是 Auto 里最小的模型,适合内存很少的机器。
poolside · 工具包
用一个 33B 的混合专家模型写代码、完成需要调用工具的长编程任务,每个词元只激活 3B 参数。适合在本地运行编程智能体的开发者。
ornith-ai · 工具包
一个 9B 开源编码智能体模型的 GGUF 副本,用强化学习训练它写出解决方案和围绕方案的脚手架。适合在本地运行智能体、使用单块 GPU 的开发者。
NousResearch · 工具包
为竞赛编程题写代码的模型,在 Qwen3-14B 基础上用强化学习继续训练,训练题共 24k 道,答案都可以检验。适合想在自己电脑上运行代码模型的开发者。
mradermacher · 工具包
Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版,大小约 11 GB 到 22.5 GB,用于本地运行。适合在自己电脑上运行 27B 模型的人。
moolvylabs · 工具包
moolvylabs 的 7.6B 编程模型,提供 GGUF 形式,作为测试版发布并征求反馈。卡片很简短,目前没有运行步骤、基准或训练细节。
migtissera · 工具包
Tess-4.5 的 GGUF 版本,这是一个 27B 开放权重的编程和智能体模型,供 llama.cpp 使用,带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。
microsoft · 工具包
一个紧凑的编程智能体模型,通过名为 Leaf 的五工具框架在代码仓库里查找问题、编辑文件并运行测试。适合想用小模型修复软件问题的开发者。
meituan-longcat · 工具包
总参数 69B、每个 token 约激活 3B 的混合专家文本模型,采用稀疏注意力,支持 100 万 token 上下文。适合为编程和工具使用智能体托管长上下文模型的团队。
maylore-ai · 工具包
42 亿参数的 Rust 编程模型,基于 Qwen3.5-4B,能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。
lododoai · 工具包
一个可在本地运行的文本模型,是 Qwen3.6-35B-A3B 的微调版本,用 Qwen3.8-27B 生成的数据训练,打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。
Kwaipilot · 工具包
Kwaipilot 的开放权重编程模型,混合专家结构,总参数 35B,激活 3B,针对智能体编程做了调优,工具调用出错更少。可用于 transformers、vLLM 和 SGLang。
khazarai · 工具包
在提出修复方案前先检查真实文件,来调试和评审代码。这是 Qwen3.8-27B 的微调版,用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。