来自 Hugging Face 的 AI 项目

Qwopus3.8-27B-Flash-GGUF

Jackrong · 工具包

为长时间的智能体任务缩短推理时间、降低成本，是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

Jackrong · 工具包

在 think 标签里一步步思考问题，是用推理链微调的 4B Qwen3.5 模型，以 GGUF 打包。适合想在自己电脑上运行小型推理模型的人。

MLX-Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-6bit

Jackrong · 工具包

以 MLX 格式、6 位运行一个只有 0.8B 的推理调优聊天小模型，转换自 Jackrong 的 Qwen3.5 蒸馏模型。适合想在 Mac 上用一个很小本地模型的人。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

Qwen3.6-35B-A3B-2Bit-GSQ

ISTA-DASLab · 工具包

用 GSQ（Gumbel-Softmax 量化）制作的 Qwen3.6-35B-A3B 的 2 位量化副本，用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。

Agents-A1

InternScience · 工具包

作为一个 35B 开放权重语言模型，负责多步骤智能体工作：规划、搜索、调用工具和科学推理。适合要把模型接入会调用工具的智能体的开发者。

K2-Horizon-3.7B-GGUF

IFM · 工具包

3.7B 参数 K2-Horizon 文本模型的 GGUF 文件，提供从 BF16 到 Q4_K_M 的六种精度，用于 llama.cpp 运行。模型有 512K token 的上下文窗口。

K2-Horizon-0.9B

IFM · 工具包

作为一个紧凑的开源推理模型，回答数学、编程和科学问题，一次最多能读取 128K 个 token。由 IFM 制作，适合想要数据和代码都公开的小模型的人。

ibnsina-1.5b

ibnsina-llm · 工具包

一个小型波斯语语言模型，可离线写作、摘要、翻译和聊天，主要用波斯语文本从零训练。可通过 ollama、LM Studio 或 llama.cpp 在笔记本上运行。

granite-4.2-8b GGUF

ibm-granite · 工具包

提供 IBM Granite 4.2 8B 模型的多种量化级别 GGUF 副本，可直接用于 llama.cpp。适合想在本地运行该模型、并从基础模型卡了解详情的人。

Granite-4.2-3B (GGUF)

ibm-granite · 工具包

把 IBM 的 Granite 4.2 3B 文本模型打包成 GGUF 文件，供本地使用。4 位权重估计约 1.8 GB，适合想要采用 Apache 2.0 许可的小型模型的人。

Granite-4.0-H-350M

ibm-granite · 工具包

用 IBM 推出的 340M 参数指令模型处理摘要、分类、抽取、问答、RAG、代码任务和工具调用，支持 12 种语言。适合需要紧凑设备端模型的开发者。

ALLaM-7B-Instruct-preview

humain-ai · 工具包

用阿拉伯语和英语回答问题、遵循指令。这是沙特数据与人工智能管理局（SDAIA）下属国家人工智能中心从零训练的 7B 模型，适合构建阿拉伯语工具的开发者和研究人员。

SmolVLM2-2.2B-Instruct

HuggingFaceTB · 工具包

同时回答关于视频、图像和文字的问题，用一个 2.2B 模型，视频推理约需 5.2 GB GPU 显存。适合构建设备端视觉助手的开发者。

zephyr-7b-beta

HuggingFaceH4 · 工具包

作为乐于助人的助手进行对话，由 Mistral-7B 经直接偏好优化调教而成。适合想自己运行小型开源聊天模型的开发者和爱好者。

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

hesamation · 工具包

以四种量化大小的 GGUF 文件在你自己的机器上运行推理微调的 Qwen3.6-35B-A3B，训练数据是 Claude Opus 4.6 风格的推理数据。适合想在本地获得逐步推理回答的人。

H2O-Lightning-4B

h2oai · 工具包

回答关于文档、工单、政策或对话及其配图的类型化决策问题，并给每个选项一个概率。适合想用小模型来判断记录的团队。

Tev-320B

gordonhu · 工具包

一个 320B 的混合专家智能体模型，只用一个 bash 工具完成较长的终端任务。用 1,170 个环境做强化学习训练，面向研究者，采用非商业许可。

gemma-4-31B-it-qat-q4_0-gguf

google · 工具包

把 Google 的 Gemma 4 31B 指令微调模型做成 4-bit GGUF 文件来运行，能读取文字和图片并用文字回答。适合有消费级显卡或工作站的开发者和爱好者。

Qwen2.5-Coder-1.5B Q8_0 GGUF

ggml-org · 工具包

通过 llama.cpp 在你自己的机器上运行 Qwen2.5-Coder 1.5B 的 Q8_0 GGUF 文件，可以用命令行，也可以做成本地服务器。适合想用小型代码模型的开发者。

Clef-GGUF

ggml-org · 工具包

Cloudflare 的 Clef 决策模型的 GGUF 文件，支持图像和文本输入。用 llama.cpp 工具提供服务，通过决策 API 路径调用。适合在自己机器上运行它的开发者。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

Kvark-Sparkle-1.0-27B

Egzakta · 工具包

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

Rukopys-OCR-4B

ebinan92 · 工具包

从图片中读取乌克兰语手写文档，找出每个文字区域、标注类型，并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。

theOG-50M

DrunkkToys · 工具包

根据一段英文说明写出 Python 函数。这是在一台笔记本上从零训练的 50M 参数代码模型，小到可以在 Ollama、LM Studio 或 llama.cpp 里离线运行。

Maple-Preview

deepgrove · 工具包

一个 20B 的三值权重推理模型，每个词元激活约 1B 参数。为快速的设备端使用而设计，检查点为 5.31 GB，上下文为 131,072 词元。这是一个预览版，在智能体任务上较弱。

Kiyo-65M

DedeProGames · 工具包

用一个只有 65M 参数的仅解码器小模型续写英文文本，它在 80B 个词元上训练。适合想研究、比较小型 transformers 模型或拿它测试代码的学习者和研究者。

Gemma-3-12b-it-MAX-HORROR-Imatrix-GGUF

DavidAU · 工具包

写带有恐怖色彩的小说。这是 Gemma 3 12B instruct 的 GGUF 版本，用恐怖模型生成的 imatrix 量化，适合在本地运行模型的创作者。

Surya OCR 2.5

datalab-to · 工具包

用 689M 参数的模型读取文档图像中的文字，还能找出文本行、版面块和阅读顺序。适合把扫描件和照片变成文字和 HTML 表格的开发者。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

PLLuM-12B-chat-2512

CYFRAGOVPL · 工具包

PLLuM 系列的波兰语聊天模型，按人类偏好调优，适合对话、问答和摘要，并关注波兰公共服务场景。

Qwen 3.6 35B-A3B REAP-48 v2 GGUF

crucible-labs · 工具包

在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B，供 llama.cpp 使用，比第一版更接近未量化的权重。适合内存有限的人。

Underdog-Woof-4B-1.1

ConwayResearch · 工具包

这是一个紧凑的 4.2B 文本生成模型，基于 Qwen 3 4B 后训练，更适配 Underdog 自己的配套环境，并量化为 4-bit MLX 格式。适合在非商业场景下运行小型本地模型的人。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

ConeML 1.2B Experimental

ConeML · 工具包

从你提供的事实里找出最高、最老或第一个对象，是一个小型英文研究模型，提供 FP32 Safetensors 和 Q8_0 GGUF 文件。适合研究者，仅限非商业使用。

North Mini Code

CohereLabs · 工具包

Cohere 的开放权重研究模型，用于写代码、智能体软件工程和终端任务。30B 模型，3B 激活，256K 上下文。适合自己运行编程模型的开发者。

Chroma Context-1

chromadb · 工具包

一个 200 亿参数的搜索模型，为复杂的多步问题找出支撑文档，并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。

Qwen3.5-9B GGUF (ShapeLearn)

byteshape · 工具包

Qwen3.5-9B 的 GGUF 副本，这个模型能读文字和图像，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp。有 GPU 和 CPU 的版本，大小约从 3 GB 到 5.7 GB。

North-Mini-Code-1.0 GGUF

byteshape · 工具包

North-Mini-Code-1.0 编程模型的 GGUF 副本，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp 中的 GPU 使用。四种大小，从 12.1 GB 到 21.5 GB，适合单 GPU 的开发者。

UI-TARS-1.5-7B

ByteDance-Seed · 工具包

一个开放的多模态智能体模型，能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。

Qwen3.5-4B GGUF

bartowski · 工具包

Qwen3.5-4B 的 imatrix GGUF 量化版本，这是一个带 MTP 层的 4.3B 图文模型，4 位文件约 3 GB。适合在本地运行小模型的人。

MiniCPM5-2B-GGUF

bartowski · 工具包

MiniCPM5-2B 文本模型的多种大小的量化 GGUF 副本，用 llama.cpp 和重要性矩阵制作。适合在自己电脑上运行小型中英文模型的人。

Llama-3.2-1B-Instruct GGUF

bartowski · 工具包

Llama-3.2-1B-Instruct 的 GGUF 量化版本，这是一个支持八种语言的 1.2B 文本模型，4 位文件约 0.8 GB。适合运行微型本地模型的人。

gugujiji_novel-humanize-4b-GGUF

bartowski · 工具包

novel-humanize-4b 中文文本模型的量化 GGUF 副本，从完整精度到小体积文件都有。适合想在自己电脑上运行 40 亿参数写作模型的人。

granite-4.2-3b-GGUF

bartowski · 工具包

IBM 的 granite-4.2-3b 文本模型的量化 GGUF 副本，从完整精度到较小的 3 位文件，尺寸齐全。适合想在自己电脑上运行小型聊天模型的人。

google_gemma-4-31B-it-GGUF

bartowski · 工具包

Google Gemma 4 31B 指令模型的量化 GGUF 文件，大小从 17.15 GB 到 61.41 GB，由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。

ERNIE-4.5-VL-28B-A3B-Thinking

baidu · 工具包

读取图像和文字并进行推理，29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。

ERNIE-4.5-21B-A3B-Thinking

baidu · 工具包

以推理见长的 ERNIE 4.5 混合专家文本模型，总参数 21B、激活参数 3B，上下文 128K，支持工具调用，支持英文和中文。适合需要用较小激活规模做深度推理的开发者。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

Apodex-1.1-mini-GGUF

apodex · 工具包

面向长篇研究任务的推理模型，能处理文件、数据、代码和工具，以 GGUF 文件提供，可以自己托管。适合自己运行模型的研究者和开发者。