来自 Hugging Face 的 AI 项目

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

gemma-4-26B-A4B-it

google · 工具包

Google 发布的经指令微调的 Gemma 4 模型，读取文字和图像并输出文字，支持可配置的思考、函数调用，上下文窗口最长 256K 词元。适合开发者和研究者。

Qwen3.5-4B-Qwenputer

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 32 位 RISC-V CPU 编译进了权重里，所以能在模型内部做精确算术，适合想探索语言模型内部计算的研究人员和好奇的开发者。

Hy4-preview

tencent · 工具包

用一个 770B 参数的混合专家模型生成文字、代码和文档，它激活 49B 个参数，支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。

Qwen3.5-0.8B

Qwen · 工具包

读取图片和文字并用文字回复，来自 Qwen 的 873M 小模型。适合想用轻量多模态基础模型做原型或微调的开发者和研究者。

Qwen3.8-27B Turbo Brilliance NEO MAX MTP GGUF

DavidAU · 工具包

以 GGUF 形式运行 Qwen3.8-27B，带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

Muse Glimmer 30B

meta-models · 工具包

读取文字和图片，在本地机器上完成工具调用、多步推理等智能体任务，是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。

Raon-1 nano (GGUF)

KRAFTON · 工具包

把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件，让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Oc-e-Non-v1

p-e-w · 工具包

用更少的字数作答，回复长度约为它所基于的 Qwen3-4B-Instruct-2507 的一半，简短直接。适合想要精简文本生成结果的人。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Qwen3.8-27B GGUF (ShapeLearn Quantized)

byteshape · 工具包

用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件，提供五种适合不同显卡的版本，在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

Thinklite-27B

Sparset · 工具包

Qwen3.8-27B 的一个变体，推理用的 token 少得多，高强度下最终答案约快一倍，适合运行推理模型并希望等待更短的人。