Axion-1.0-35B-GGUF
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Zhanli-Li · 工具包
用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型,面向会调用工具的智能体。适合部署大型混合专家模型的团队。
ornith-ai · 工具包
能写代码、处理终端智能体任务,是每个 token 约用 3B 参数的混合专家模型,这里是 NVFP4 版本。适合想在自己硬件上部署编程模型的开发者。
unsloth · 工具包
用每个词元只激活 3B 参数的 21B 混合专家模型处理逻辑、数学、科学和编程问题,提供 Unsloth 制作的 GGUF 文件。支持工具调用和 128K 上下文。
sarvamai · 工具包
Sarvam AI 的混合专家语言模型,总参数 322 亿,每个词元激活 24 亿,面向英语和多种印度语言的实际使用。模型卡的示例代码需要 NVIDIA 显卡。
sarvamai · 工具包
Sarvam-105B 的 GGUF 版本,一个重视印度语言的大型混合专家模型,按 4 位拆成 9 个分片,供 llama.cpp 使用。适合内存充足、想用大型开源模型的人。
Qwen · 工具包
这个模型同时读图像和文字并用文字回答,是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。
Qwen · 工具包
一个 30.5B 的混合专家聊天模型,GGUF 格式,每个词元只激活 3.3B 参数,可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式,适合机器配置较高的开发者。
Jundot · 工具包
zai-org 的 GLM-5.3-Flash 多模态混合专家模型的混合精度 MLX 副本,约每个权重 4.6 位,包含视觉编码器和多词元预测头。
IsValorum · 工具包
一个仅支持英文的编程模型,GGUF 格式,42.6B 参数的混合专家量化版,约 21.8 GB,用于在 llama.cpp 或 LM Studio 里做代码补全、重构和智能体工具调用。
facebook · 工具包
Meta 的混合专家视觉编码器,无需额外训练就能把图片匹配到文字标签,这里是 384px 的 L/16 模型。授权用于非商业研究。
barozp · 工具包
面向 Apple Silicon 的 4 位 MLX 版本,来自从稠密的 Qwen3.8-27B 切出来的混合专家模型,总参数 27B,激活 17.8B。适合用 mlx-lm 运行本地模型的人。
baidu · 工具包
以推理见长的 ERNIE 4.5 混合专家文本模型,总参数 21B、激活参数 3B,上下文 128K,支持工具调用,支持英文和中文。适合需要用较小激活规模做深度推理的开发者。
allenai · 工具包
用运行成本较小的混合专家模型续写英文文本,激活参数 1B,总参数 7B。代码、数据和检查点全部开放,适合使用 transformers 的研究人员和开发者。
ai-sage · 工具包
用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型,激活参数 28B,适合能自行部署大模型的团队。
0xKitkat · 工具包
把 Qwen3.8-Flash-Next 混合专家模型压缩成约 37 GiB 的纯文本 GGUF 文件,供实验使用。它需要发布包里附带的补丁版 llama.cpp 才能运行。
reflection · 工具包
这个模型读写文本,上下文 1M 个 token,主打编程、智能体调用工具和数学推理,是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。
poolside · 工具包
用一个 33B 的混合专家模型写代码、完成需要调用工具的长编程任务,每个词元只激活 3B 参数。适合在本地运行编程智能体的开发者。
meituan-longcat · 工具包
总参数 69B、每个 token 约激活 3B 的混合专家文本模型,采用稀疏注意力,支持 100 万 token 上下文。适合为编程和工具使用智能体托管长上下文模型的团队。
meituan-longcat · 工具包
面向长链条智能体任务的多模态混合专家模型,用于代码库开发、完整项目构建和创意设计,此为压缩的 W4A4 版本。适合拥有大型 GPU 算力的团队。