开发者 AI 技能与智能体

Axion-1.0-35B-GGUF

prithivMLmods · 工具包

提供 Axion-1.0-35B 的 GGUF 文件，这是一个有约 30 亿激活参数的 35B 混合专家模型，面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。

DataWorld-35B-A3B

Zhanli-Li · 工具包

用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型，面向会调用工具的智能体。适合部署大型混合专家模型的团队。

Ornith-1.5-35B-A3B-NVFP4

ornith-ai · 工具包

能写代码、处理终端智能体任务，是每个 token 约用 3B 参数的混合专家模型，这里是 NVFP4 版本。适合想在自己硬件上部署编程模型的开发者。

ERNIE-4.5-21B-A3B-Thinking-GGUF

unsloth · 工具包

用每个词元只激活 3B 参数的 21B 混合专家模型处理逻辑、数学、科学和编程问题，提供 Unsloth 制作的 GGUF 文件。支持工具调用和 128K 上下文。

Sarvam-30B

sarvamai · 工具包

Sarvam AI 的混合专家语言模型，总参数 322 亿，每个词元激活 24 亿，面向英语和多种印度语言的实际使用。模型卡的示例代码需要 NVIDIA 显卡。

Sarvam-105B GGUF

sarvamai · 工具包

Sarvam-105B 的 GGUF 版本，一个重视印度语言的大型混合专家模型，按 4 位拆成 9 个分片，供 llama.cpp 使用。适合内存充足、想用大型开源模型的人。

Qwen3.5-122B-A10B

Qwen · 工具包

这个模型同时读图像和文字并用文字回答，是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。

Qwen3-30B-A3B-GGUF

Qwen · 工具包

一个 30.5B 的混合专家聊天模型，GGUF 格式，每个词元只激活 3.3B 参数，可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式，适合机器配置较高的开发者。

GLM-5.3-Flash-oQ4e-mtp

Jundot · 工具包

zai-org 的 GLM-5.3-Flash 多模态混合专家模型的混合精度 MLX 副本，约每个权重 4.6 位，包含视觉编码器和多词元预测头。

Qwen3.8-Flash-Coder APEX-I-MiniPlus V2.1 GGUF

IsValorum · 工具包

一个仅支持英文的编程模型，GGUF 格式，42.6B 参数的混合专家量化版，约 21.8 GB，用于在 llama.cpp 或 LM Studio 里做代码补全、重构和智能体工具调用。

MoEViE-L16-384

facebook · 工具包

Meta 的混合专家视觉编码器，无需额外训练就能把图片匹配到文字标签，这里是 384px 的 L/16 模型。授权用于非商业研究。

Qwen3.8-Whittle-MoE-27B-MLX-4bit

barozp · 工具包

面向 Apple Silicon 的 4 位 MLX 版本，来自从稠密的 Qwen3.8-27B 切出来的混合专家模型，总参数 27B，激活 17.8B。适合用 mlx-lm 运行本地模型的人。

ERNIE-4.5-21B-A3B-Thinking

baidu · 工具包

以推理见长的 ERNIE 4.5 混合专家文本模型，总参数 21B、激活参数 3B，上下文 128K，支持工具调用，支持英文和中文。适合需要用较小激活规模做深度推理的开发者。

OLMoE-1B-7B-0924

allenai · 工具包

用运行成本较小的混合专家模型续写英文文本，激活参数 1B，总参数 7B。代码、数据和检查点全部开放，适合使用 transformers 的研究人员和开发者。

GigaChat3.5-432B-A28B

ai-sage · 工具包

用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型，激活参数 28B，适合能自行部署大模型的团队。

Qwen3.8-Flash-Next-125B-UltraLite-37GiB-GGUF

0xKitkat · 工具包

把 Qwen3.8-Flash-Next 混合专家模型压缩成约 37 GiB 的纯文本 GGUF 文件，供实验使用。它需要发布包里附带的补丁版 llama.cpp 才能运行。

Beam-1.0-501B-A23B-NVFP4

reflection · 工具包

这个模型读写文本，上下文 1M 个 token，主打编程、智能体调用工具和数学推理，是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。

Laguna XS 2.1

poolside · 工具包

用一个 33B 的混合专家模型写代码、完成需要调用工具的长编程任务，每个词元只激活 3B 参数。适合在本地运行编程智能体的开发者。

LongCat-Flash-Lite-Sparse

meituan-longcat · 工具包

总参数 69B、每个 token 约激活 3B 的混合专家文本模型，采用稀疏注意力，支持 100 万 token 上下文。适合为编程和工具使用智能体托管长上下文模型的团队。

LongCat-2.5-W4A4

meituan-longcat · 工具包

面向长链条智能体任务的多模态混合专家模型，用于代码库开发、完整项目构建和创意设计，此为压缩的 W4A4 版本。适合拥有大型 GPU 算力的团队。

KAT-Coder-V2.5-Dev

Kwaipilot · 工具包

Kwaipilot 的开放权重编程模型，混合专家结构，总参数 35B，激活 3B，针对智能体编程做了调优，工具调用出错更少。可用于 transformers、vLLM 和 SGLang。

Ling-3.0-tiny-GGUF

inclusionAI · 工具包

inclusionAI 的 Ling-3.0-tiny 的 GGUF 副本。这是一个小型混合专家推理模型，总参数 7.9B，激活参数 1.3B，适合低成本本地运行。

Inkling-Small-NVFP4

thinkingmachines · 工具包

Inkling-Small 的 NVFP4 版本，一个多模态混合专家模型，接收文本、图像和音频并输出文本。适合构建智能体、编程助手和其他 AI 应用的开发者。

Hy-MT2-30B-A3B

tencent · 工具包

腾讯推出的 30B 混合专家翻译模型，支持 33 种语言互译，并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。

Jasper-K-35B-MoE

ragentile · 工具包

这个模型编写 GPU 内核，并通过在测试环境里反复尝试来提升速度。它是用强化学习从 Qwen3.6-35B-A3B 训练出来的混合专家模型，面向调优 GPU 代码的工程师。

Ornith-1.5-122B-NVFP4

ornith-ai · 工具包

提供 Ornith-1.5-122B 的 NVFP4 量化副本，这是一个面向单 GPU 使用、在编程测试里表现突出的 122B 混合专家文本模型。适合自己托管大模型的开发者。

Naive-N0.5-Flash

NaiveAI · 工具包

开放权重的混合专家模型，总参数 309B，激活 15.5B，原生 100 万 token 上下文，为编程和 AI 研究而构建。适合在自己服务器上运行大型编程模型的团队。

DeepSeek-V4.1-Flash-1017-oQ4e-mtp

mlx-community · 工具包

DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本，这是一个超大的多模态混合专家模型。适合拥有数百 GB 内存、想用 MLX 工具运行它的人。

Axion-1.0-35B-APEX-I-MiniPlus-V2.1-GGUF

IsValorum · 工具包

用一个混合精度的压缩 GGUF 文件，在 llama.cpp 里本地运行 35B 的 Axion-1.0 模型。这是 IsValorum 的量化版本，适合想在自己硬件上运行大型混合专家模型的人。

gnani-evon-v3.3-30B-A3B

gnani · 工具包

用英语和十种印度语言聊天、答题和推理，上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型，适合用印度语言构建助手、RAG 和智能体的团队。

Kolibri-1

Aleph-Alpha · 工具包

用德语和英语推理并调用工具，上下文窗口超过一百万 token。这是 Aleph Alpha 推出的开放 78B 混合专家模型，每个 token 只激活 3.46B 参数。

Wan2.2-I2V-A14B

Wan-AI · 工具包

把一张静态图像变成 480P 或 720P 的视频，采用 Wan-AI 的专家混合设计。适合用图片生成视频的创作者和研究人员。

MiMo-V2.6-Flash-RL

XiaomiMiMo · 工具包

在同一个模型里处理文本、图像、视频和音频输入，上下文长达 1M token，适合长代码库和智能体运行。这是 XiaomiMiMo 推出的 311B 开放混合专家模型。

Ornith-1.5-122B-GGUF

unsloth · 工具包

在你自己的机器上运行 Ornith-1.5-122B 文本模型，由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型，面向单块 GPU 上的编程和智能体工作。

DeepSeek-V4.1-Flash-1017 Maya GGUF

peasantsmith · 工具包

通过为 Project Maya 制作的两种 GGUF 量化版本，在家用电脑上运行 748B 的 DeepSeek 混合专家模型。适合有大内存机器和高速 SSD 的人。

ttf-Qwen3.8-Flash-Next-GGUF

oguzeldereli · 工具包

用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next，比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。

LFM2.5-8B-A1B-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的稀疏混合专家模型 LFM2.5-8B-A1B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统和 12 种推理模式。8.5B 的实验性发布，供本地运行。

Xing4.0-29B-A4B

XingChen-AGI · 工具包

用于生成文本，处理规划和调用工具等多步骤任务，支持中英文和 256K 上下文。这是一个混合专家模型，适合自行部署运行的开发者。

DeepSeek-V4.1-Flash-1017-NVFP4

nvidia · 工具包

NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本，一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

Mellum2.1-12B-A2.5B-Thinking

JetBrains · 工具包

12B 混合专家思考模型，激活参数 2.5B，在真实代码仓库中用强化学习训练，面向编程智能体、数学和困难推理。由 JetBrains 打造，上下文 131,072 token。

NorthCUA-Mini

beipo-ai · 工具包

读取截图和请求，然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型，激活参数 3B。

Qwen3.8-35B-A3B-Distill

empero-ai · 工具包

回答前先一步步推理，使用 35B 的混合专家模型，每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来，侧重数学和代码。

GLM-5.3-Flash Maya GGUF

peasantsmith · 工具包

GLM-5.3-Flash 的五个 GGUF 压缩版本，GLM-5.3-Flash 是 321B 的混合专家模型，大小从 73.4 GB 到 156.3 GB，为 Project Maya 制作，它把模型分摊到 GPU、内存和固态硬盘上。

Raon-1 mini

KRAFTON · 工具包

能聊天和推理，尤其擅长韩语，并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型，每个词元激活 4.3B 参数，上下文 262,144 个词元。KRAFTON AI 的预览版本。

Qwen3.8-35B-A3B-Distill-GGUF

empero-ai · 工具包

用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型，每个 token 约 3B 参数在工作，另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。

flint-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Flint，这是面向编程智能体的 39.8B 混合专家模型，每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。

DeepSeek-V4-Flash

deepseek-ai · 工具包

DeepSeek 的预览版混合专家语言模型，总参数 284B，每个词元用 13B，上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。