来自 Hugging Face 的 AI 项目

LFM2.5-8B-A1B-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的稀疏混合专家模型 LFM2.5-8B-A1B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统和 12 种推理模式。8.5B 的实验性发布，供本地运行。

Xing4.0-29B-A4B

XingChen-AGI · 工具包

用于生成文本，处理规划和调用工具等多步骤任务，支持中英文和 256K 上下文。这是一个混合专家模型，适合自行部署运行的开发者。

DeepSeek-V4.1-Flash-1017-NVFP4

nvidia · 工具包

NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本，一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

Mellum2.1-12B-A2.5B-Thinking

JetBrains · 工具包

12B 混合专家思考模型，激活参数 2.5B，在真实代码仓库中用强化学习训练，面向编程智能体、数学和困难推理。由 JetBrains 打造，上下文 131,072 token。

Sage-A1.5 GGUF (Q4_K_M)

InternScience · 工具包

以 4-bit GGUF 文件运行 Sage-A1.5，这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展，适用于 llama.cpp、Ollama 和 LM Studio。

NorthCUA-Mini

beipo-ai · 工具包

读取截图和请求，然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型，激活参数 3B。

DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000

diffbot · 工具包

在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版，适合在自己硬件上部署大型编程和智能体模型的开发者。

Sage-A1.5

InternScience · 工具包

作为智能体处理长篇科学任务，能委派给子智能体、检查自己的进展并修订计划。这是面向研究和工程工作流的 35B 混合专家模型。

Qwen3.8-35B-A3B-Distill

empero-ai · 工具包

回答前先一步步推理，使用 35B 的混合专家模型，每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来，侧重数学和代码。

Wan2.2-T2V-A14B

Wan-AI · 工具包

用混合专家视频模型，根据文字提示词生成 5 秒、480P 或 720P 的视频。适合想用开源文生视频模型的创作者和开发者。

halogen-qwen3.8-flash-next

peonist-ai · 工具包

存放 halogen-flash-server 所用的模型权重，这个引擎能在 AMD Strix Halo 机器上运行 Qwen3.8-Flash-Next，适合想在本机运行该模型的这类硬件的主人。

GLM-5.3-Flash Maya GGUF

peasantsmith · 工具包

GLM-5.3-Flash 的五个 GGUF 压缩版本，GLM-5.3-Flash 是 321B 的混合专家模型，大小从 73.4 GB 到 156.3 GB，为 Project Maya 制作，它把模型分摊到 GPU、内存和固态硬盘上。

Raon-1 mini

KRAFTON · 工具包

能聊天和推理，尤其擅长韩语，并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型，每个词元激活 4.3B 参数，上下文 262,144 个词元。KRAFTON AI 的预览版本。

Qwen3.8-35B-A3B-Distill-GGUF

empero-ai · 工具包

用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型，每个 token 约 3B 参数在工作，另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。

Apex-35B-V1.0

Apexintelligence-AI · 工具包

用于编程、工具使用、问答、搜索和研究任务的文本模型，基于 Qwen3.6-35B-A3B，每个词元约用 3B 参数。适合开发者和研究者。

flint-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Flint，这是面向编程智能体的 39.8B 混合专家模型，每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。

Beam-1.0-501B-A23B

reflection · 工具包

Reflection 推出的开放指令微调文本模型，501B 参数，每次激活 23B，上下文 1M token，面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。

DeepSeek-V4-Flash

deepseek-ai · 工具包

DeepSeek 的预览版混合专家语言模型，总参数 284B，每个词元用 13B，上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Hy4-preview

tencent · 工具包

用一个 770B 参数的混合专家模型生成文字、代码和文档，它激活 49B 个参数，支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

DeepSeek-V4.1-Flash-1017 的 GGUF 版本，有三种很小的尺寸，每个张量用各自的精度量化，适合在有限硬件上运行超大混合专家模型的人。

Recursive Flint

RecursiveSI · 工具包

为编程智能体打造的 39.8B 混合专家语言模型，能调查代码库、修复 bug、实现功能并编写测试，适合在 GPU 服务器上运行自己智能体的开发者。

Qwen3.8-Flash-Next-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的 GGUF 版本，有四种大小，每个张量用各自的精度量化，并带有支持图片输入的视觉投影文件，适合在本地运行大型混合专家模型的人。

LongCat-2.5

meituan-longcat · 工具包

美团 LongCat 的多模态混合专家模型，面向长时间的智能体任务和编程，总参数约 1.6 万亿，每个 token 激活 480 亿。适合有大型 GPU 集群的实验室和团队。