来自 Hugging Face 的 AI 项目

GLM-5.2

zai-org · 工具包

zai-org 推出的 753B 参数开放文本模型，适合编程和智能体这类长链条多步工作，有 1M 词元上下文，采用 MIT 许可证。适合拥有大型 GPU 集群的团队。

Forge-1-Gemma-4-E2B

YoSaNoo · 工具包

一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型，偏向写代码，以 GGUF 文件发布，可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。

Spark-X2.6-1.7B-DSpark-GGUF

XHToken · 工具包

一个小型草稿模型，通过推测解码加速 Spark-X2.6-1.7B，每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。

Llama-3.2-1B-Instruct-GGUF

unsloth · 工具包

在笔记本上聊天、总结和回答文字问题，是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本，精度从 16 比特到 2 比特。适合开发者和学习者。

GLM-4-9B-0414-GGUF

unsloth · 工具包

用 9.4B 的 GLM-4-9B-0414 模型的 GGUF 文件生成中文和英文文本，适合想在自己电脑上运行 GLM 模型的人。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

gemma-3-4b-it-GGUF

unsloth · 工具包

在你自己的电脑上回答关于文字和图片的问题，是 Unsloth 打包的 Google Gemma 3 4B 指令模型的 GGUF 副本。适合想用小型本地模型的开发者和用户。

Inkling-Small-NVFP4

thinkingmachines · 工具包

Inkling-Small 的 NVFP4 版本，一个多模态混合专家模型，接收文本、图像和音频并输出文本。适合构建智能体、编程助手和其他 AI 应用的开发者。

gemma-4-31B-it-scotoma-2-GGUF

ReadyArt · 工具包

这个模型是 ReadyArt 从自家 gemma-4-31B-it-scotoma-2 打包出来的 GGUF 版本，参数量 30.7B，可在本地运行。适合想以 GGUF 形式使用这个模型的人。

Qwen3.5-4B-Base

Qwen · 工具包

这是一个只做过预训练的视觉语言基础模型，用于微调和上下文学习实验，不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。

Qwen3-4B-GGUF

Qwen · 工具包

一个 4B 的 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。

Qwen3-14B

Qwen · 工具包

这是一个 14.8B 参数的开源模型，难题用思考模式推理，日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。

Qwen2.5-Coder-32B-Instruct

Qwen · 工具包

编写、解释和修复代码，是 Qwen2.5-Coder 系列中最大的指令微调模型，32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

Qwen2.5-Coder-1.5B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。

Ornith-1.5-9B

ornith-ai · 工具包

处理编程和终端任务，是一个适合单张 GPU 的 9B 稠密语言模型。适合想用小型开源模型做软件开发的开发者，另有面向手机的移动版本。

Ornith-1.5-122B-NVFP4

ornith-ai · 工具包

提供 Ornith-1.5-122B 的 NVFP4 量化副本，这是一个面向单 GPU 使用、在编程测试里表现突出的 122B 混合专家文本模型。适合自己托管大模型的开发者。

MiniCPM-V 4.6

openbmb · 工具包

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

Naive-N0.5-Flash

NaiveAI · 工具包

开放权重的混合专家模型，总参数 309B，激活 15.5B，原生 100 万 token 上下文，为编程和 AI 研究而构建。适合在自己服务器上运行大型编程模型的团队。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。