officialmobai_Rostam-S1-4B-GGUF
bartowski · 工具包
Rostam-S1-4B 的 GGUF 量化版本,这是一个 4B 推理模型,擅长数学、物理、软件工作和波斯语与英语文本。适合在本地运行小模型、想自己挑文件大小的人。
bartowski · 工具包
Rostam-S1-4B 的 GGUF 量化版本,这是一个 4B 推理模型,擅长数学、物理、软件工作和波斯语与英语文本。适合在本地运行小模型、想自己挑文件大小的人。
Zhanli-Li · 工具包
用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型,面向会调用工具的智能体。适合部署大型混合专家模型的团队。
unsloth · 工具包
在本地处理智能体编码和图文任务,是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件,支持思考保留和长上下文。适合运行本地编码智能体的开发者。
meta-models · 工具包
一个 300 亿参数智能体模型的 GGUF 版本,供 llama.cpp 使用,附带可选的图像编码器和推测解码草稿模型。适合在 24 GB 显卡上本地运行模型的人。
kaushikvira · 工具包
把 763.2B 参数的 DeepSeek V4.1 Flash 做成 153 GiB 的混合精度版本,针对智能体和编程工作调校,在 strata 引擎上运行。适合有大显存 GPU 和大量内存的人。
IsValorum · 工具包
一个仅支持英文的编程模型,GGUF 格式,42.6B 参数的混合专家量化版,约 21.8 GB,用于在 llama.cpp 或 LM Studio 里做代码补全、重构和智能体工具调用。
InternScience · 工具包
作为一个 35B 开放权重语言模型,负责多步骤智能体工作:规划、搜索、调用工具和科学推理。适合要把模型接入会调用工具的智能体的开发者。
ibm-granite · 工具包
为 IBM Granite 模型提供六个 LoRA 适配器,用于在 RAG 流程中改写查询、请求澄清、判断段落、检查可回答性和标记幻觉。适合构建智能体检索的开发者。
CohereLabs · 工具包
Cohere 的开放权重研究模型,用于写代码、智能体软件工程和终端任务。30B 模型,3B 激活,256K 上下文。适合自己运行编程模型的开发者。
primitive-ai · 工具包
为 Blackwell GPU 提供小米 MiMo-V2.6-Flash-RL 的 NVFP4 版本,专家权重值与官方发布完全一致,在两块 96 GB 显卡上吞吐更高。适合自托管大模型的人。
Accio-Lab · 工具包
Accio-Lab 推出的开放 35B 图文模型,基于 Qwen3.6-35B-A3B,提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。
ZelligeAI · 工具包
用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环,每轮花更少的思考词元。适合自己托管大模型的开发者。
ykarout · 工具包
为 Strata 推理引擎准备的 35B 模型 Sage-A1.5 的 Q4_K_M GGUF,能在 16 GB 显卡加 64 GB 内存上放下完整的 262K 上下文。适合在本地运行大模型的人。
TokenRhythm · 工具包
从 Qwen3.5-9B 后训练而来的 9B 文本模型,面向智能体框架、工具调用、编程和指令遵循,只发布文本权重。适合在自己硬件上运行智能体的开发者。
officialmobai · 工具包
一步一步推理数学、物理、科学编程以及波斯语或英语问题,并支持工具调用。基于 Spark-X2.6-4B 的 4.1B 模型,适合想要小型双语推理模型的人。
mradermacher · 工具包
Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版,大小约 11 GB 到 22.5 GB,用于本地运行。适合在自己电脑上运行 27B 模型的人。
migtissera · 工具包
Tess-4.5 的 GGUF 版本,这是一个 27B 开放权重的编程和智能体模型,供 llama.cpp 使用,带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。
meituan-longcat · 工具包
面向长链条智能体任务的多模态混合专家模型,用于代码库开发、完整项目构建和创意设计,此为压缩的 W4A4 版本。适合拥有大型 GPU 算力的团队。
Kwaipilot · 工具包
Kwaipilot 的开放权重编程模型,混合专家结构,总参数 35B,激活 3B,针对智能体编程做了调优,工具调用出错更少。可用于 transformers、vLLM 和 SGLang。
jstarks · 工具包
对 Google 的 Gemma 4 E4B-it 直接修改 0.002% 的权重、不做训练,用来解决思考模式下工具调用和多步数学的卡顿。也提供一个小型补丁文件。