Mellum2.1-12B-A2.5B-Thinking
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
InternScience · 工具包
以 4-bit GGUF 文件运行 Sage-A1.5,这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展,适用于 llama.cpp、Ollama 和 LM Studio。
inclusionAI · 工具包
处理复杂的智能体、搜索、办公和编程工作,总参数 560B,激活参数 25B,上下文 1M token。服务示例使用多 GPU 服务器上的 SGLang,权重以 MIT 许可开放。
IFM · 工具包
用 512K token 的上下文窗口写文字、代码和推理回答,适合想要训练数据、代码和检查点全部公开的开放稠密模型的开发者和研究人员。
ibm-granite · 工具包
逐步推理、写代码、调用工具,并用多种语言聊天,上下文最长 128K token,可扩展到 512K。这是 IBM 的稠密 8B 模型,适合构建智能体和助手的开发者。
HuggingFaceTB · 工具包
作为小型 3B 开放模型来写作和回答问题,支持可切换的逐步思考、工具调用和长上下文,适合想在自己电脑上用紧凑模型的开发者。
ErtasAI · 工具包
压缩到 22 GB 的开放权重医学语言模型,最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。
empero-ai · 工具包
在手机、笔记本和单板计算机上运行小型 2B 推理模型,提供五种量化等级的 GGUF 文件。由 Empero 打包,是大型 Qwen3.8 模型的蒸馏版本,适用于 llama.cpp。
DRUPEs · 工具包
基于 MiniCPM5-2B 的 2B 编程和聊天模型,在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。
digi-the-robot · 工具包
一个只有 15.7M 参数的小型语言模型,扮演一只野生乌鸦,用心情、动作和乌鸦叫声回答,还会记住你怎么对他。适合爱折腾的人,以及想和一个小角色模型聊天的人。
bartowski · 工具包
bartowski 用重要性矩阵为 Nanbeige4.3-33B 制作的 GGUF 量化版本,大小约从 21 GB 到 66 GB。适合在本地用 llama.cpp 运行 33B 的中英文文本模型。
z-lab · 工具包
一个草稿模型,通过提出一整块词元让主模型检查,来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。
XHToken · 工具包
用面向本地设备的紧凑 1.7B 模型生成文本,有三档可调的思考等级。适合想在本地硬件上获得编程、智能体和长上下文帮助的开发者。
TinyLlama · 工具包
以小型 1.1B 语言模型的身份用纯文本聊天,运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。
tencent · 工具包
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
nvidia · 工具包
NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频,可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。
NousResearch · 工具包
这是一个推理型对话模型,可以一步步思考,也可以快速作答,还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。
MineAITechnology · 工具包
MineAI Technology 推出的 355M 参数英文小型聊天模型,遵循简单的 User 和 Assistant 格式。这是研究级模型,回答能干净收尾、会写简短代码,但没有增加知识。
meituan-longcat · 工具包
把文字、图像和音频作为离散 token 统一处理的原生多模态模型,参数 74.3B。适合构建能看、能听、能生成内容的应用的研究人员和开发者。
incoai · 工具包
一次起草多个 token 让主模型去核对,以此加快 Qwen3.8-Flash-Next,适合用 SGLang 部署该模型、想更快出结果又不改动它的工程师。