来自 Hugging Face 的 AI 项目

Sage-A1.5 GGUF (Q4_K_M)

InternScience · 工具包

以 4-bit GGUF 文件运行 Sage-A1.5，这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展，适用于 llama.cpp、Ollama 和 LM Studio。

Qwen3.8-27B-pi

bytkim · 工具包

为 Pi 智能体框架调优的 27B 编程模型，训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈，推理强度可调。适合运行编程智能体的开发者。

d3-ultra

vllm-sr · 工具包

对同一份文本、图片或视频输入一次回答多个问题，为每个答案给出概率，不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。

d3-mini

vllm-sr · 工具包

一次调用就能回答关于文本、图片和视频的选择题、是非题和打分题，并为每个答案返回概率，而不是生成文字。适合需要给请求分流或分类的开发者。

Qwen2.5-VL-7B-Instruct-GGUF

unsloth · 工具包

Unsloth 制作的 Qwen2.5-VL-7B-Instruct 的 GGUF 文件，这个视觉语言模型能读图像、图表、文档和长视频，还能输出坐标和结构化数据。适合在本地运行它的人。

embeddinggemma-2-GGUF

unsloth · 工具包

把文字变成 768 维向量，用于设备端的搜索、检索和聚类。基础模型还支持图像、视频和音频。由 Unsloth 打包成 GGUF。

MiniCPM-o 4.5

openbmb · 工具包

一个 9B 模型就能处理图片、视频、语音和实时音视频流，并用英文和中文以文字和语音回答。适合构建语音和视觉助手的开发者。

Sage-A1.5

InternScience · 工具包

作为智能体处理长篇科学任务，能委派给子智能体、检查自己的进展并修订计划。这是面向研究和工程工作流的 35B 混合专家模型。

Qwen3.8-27B-NVFP4

unsloth · 工具包

Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本，用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。

YOLO26

Ultralytics · 工具包

用 Ultralytics 的 YOLO 模型系列在图片和视频中找出物体，同系列还覆盖分割、分类、深度、姿态和跟踪。适合开发计算机视觉应用的开发者。

GLM-5.3-Flash Maya GGUF

peasantsmith · 工具包

GLM-5.3-Flash 的五个 GGUF 压缩版本，GLM-5.3-Flash 是 321B 的混合专家模型，大小从 73.4 GB 到 156.3 GB，为 Project Maya 制作，它把模型分摊到 GPU、内存和固态硬盘上。

Qwen3.8-35B-A3B-Distill-GGUF

empero-ai · 工具包

用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型，每个 token 约 3B 参数在工作，另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。

elephant-1

baselabs · 工具包

一次性回答关于某个情境的一组问题，并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 9B 决策模型，由 Qwen3.5-9B 调整而来。

Qwen3.5-9B-Base

Qwen · 工具包

为研究人员和开发者提供带视觉编码器的预训练 9B 基础模型，用于微调和实验，而不是直接聊天。能处理文本和图像。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

Alpie Seed 9B GGUF

169Pi · 工具包

通过三种位深的 GGUF 文件，在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。

WeVisOne-VL-4B

tencent · 工具包

用腾讯的一个 4B 视觉语言模型在图片中查找、计数、指向、识字和分割物体，并生成 alpha 抠图。适合做视觉定位和图像抠图的研究人员。

Cactus runtime

Cactus-Compute · 工具包

提供预编译的运行时二进制文件，在手机、笔记本、服务器和浏览器上本地运行文字、语音和视觉模型。适合在应用里发布设备端 AI 的开发者。

mammoth-1

baselabs · 工具包

一次性回答关于某个情境的一组问题，并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 27B 决策模型，由 Qwen3.5-27B 调整而来。

Qwen3.8-27B GGUF (ShapeLearn Quantized)

byteshape · 工具包

用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件，提供五种适合不同显卡的版本，在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。