来自 Hugging Face 的 AI 项目

google_gemma-4-31B-it-GGUF

bartowski · 工具包

Google Gemma 4 31B 指令模型的量化 GGUF 文件，大小从 17.15 GB 到 61.41 GB，由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。

Cloudflare clef GGUF

bartowski · 工具包

Cloudflare 的 clef 决策模型的静态 GGUF 量化版本，它不写文字，而是一次性为关于某个状态的类型化问题的每个选项打分。适合用 llama.cpp 运行它的开发者。

ERNIE-4.5-VL-28B-A3B-Thinking

baidu · 工具包

读取图像和文字并进行推理，29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

Surya 2.5 GGUF

datalab-to · 工具包

从文档图像里读取文字、表格和版面，并以文字返回。这是 Surya 2.5 OCR 模型面向 llama.cpp 的 GGUF 版本，适合想在自己电脑上运行文档 OCR 的人。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

MinerU2.5-Pro

opendatalab · 工具包

读取文档页面图像并返回文字，是一个 1.2B 参数、为中英文文档解析打造的模型。适合把扫描页变成可用文字的团队。

Molmo2-8B

allenai · 工具包

回答关于图片、视频以及多张图片的问题，还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。

Ara-JEV

AhmedReda25300 · 工具包

根据一段简短的阿拉伯语情境、一个问题和可选选项，挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。

Qwen3.8-27B Agention Precision GGUF

agentionai · 工具包

把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件，有八种大小，从 8.95 到 16.35 GiB，另附视觉投影器。作者称在每个大小上，它与 BF16 模型的偏离都比其他量化版本小。

Occamy-1.0

Accio-Lab · 工具包

Accio-Lab 推出的开放 35B 图文模型，基于 Qwen3.6-35B-A3B，提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。

Smaug-Decisions

abacusai · 工具包

针对音频、图像或文本的提问，一次前向传播就给出每个选项的概率，不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。

GLM-5.3-Flash EXL3 Spark

0xSero · 工具包

在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash，使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。

Laplace-1-Atlas

JuneoAI · 工具包

通过一次推理给候选选项打分，帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型，权重以 Apache-2.0 开放。

Tessera-27B-B-CJK-RL

ZelligeAI · 工具包

用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环，每轮花更少的思考词元。适合自己托管大模型的开发者。

Qwen3.6-27B-MTP-GGUF

unsloth · 工具包

用 Qwen3.6 27B 写代码和推理，提供 Unsloth 制作的、带多词元预测的 GGUF 文件，卡片说回复能快约 1.5 到 2 倍，且不损失准确度。为编程智能体而做。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

Muse Glimmer 30B GGUF

unsloth · 工具包

在本地运行一个能读文字和图片、调用工具并在调用失败后重试的 30B 智能体模型，使用 Unsloth 的 GGUF 文件。适合在消费级硬件上构建本地智能体的开发者。

gemma-4-31B-it-qat-GGUF

unsloth · 工具包

用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型，自带用于推测解码的草稿模型，可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。