Mellum2.1-12B-A2.5B-Thinking
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
beipo-ai · 工具包
读取截图和请求,然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型,激活参数 3B。
empero-ai · 工具包
回答前先一步步推理,使用 35B 的混合专家模型,每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来,侧重数学和代码。
peasantsmith · 工具包
GLM-5.3-Flash 的五个 GGUF 压缩版本,GLM-5.3-Flash 是 321B 的混合专家模型,大小从 73.4 GB 到 156.3 GB,为 Project Maya 制作,它把模型分摊到 GPU、内存和固态硬盘上。
KRAFTON · 工具包
能聊天和推理,尤其擅长韩语,并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型,每个词元激活 4.3B 参数,上下文 262,144 个词元。KRAFTON AI 的预览版本。
empero-ai · 工具包
用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型,每个 token 约 3B 参数在工作,另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Flint,这是面向编程智能体的 39.8B 混合专家模型,每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。
deepseek-ai · 工具包
DeepSeek 的预览版混合专家语言模型,总参数 284B,每个词元用 13B,上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。
ornith-ai · 工具包
运行一个面向编程和智能体任务的 35B 混合专家文本模型,每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件,供本地使用。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B,这是能读图和文字的混合专家模型,每个词元只用约 3B 参数。适合在本地运行大模型的开发者。
thinkingmachines · 工具包
读取文字、图像和音频并用文字回答,面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型,总参数 276B,每个词元激活 12B。
tencent · 工具包
用一个 770B 参数的混合专家模型生成文字、代码和文档,它激活 49B 个参数,支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。
Qwen · 工具包
用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入,它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。
ISTA-DASLab · 工具包
DeepSeek-V4.1-Flash-1017 的 GGUF 版本,有三种很小的尺寸,每个张量用各自的精度量化,适合在有限硬件上运行超大混合专家模型的人。
RecursiveSI · 工具包
为编程智能体打造的 39.8B 混合专家语言模型,能调查代码库、修复 bug、实现功能并编写测试,适合在 GPU 服务器上运行自己智能体的开发者。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的 GGUF 版本,有四种大小,每个张量用各自的精度量化,并带有支持图片输入的视觉投影文件,适合在本地运行大型混合专家模型的人。
JustVugg · 工具包
这是一个分层推理引擎,通过从 NVMe 存储中流式传输专家模型,同时将密集层保留在内存中,从而运行大型混合专家模型。它通过 CUDA 和 Vulkan 为开发者支持多种硬件配置。