来自 Hugging Face 的 AI 项目

Ling-3.0-tiny

inclusionAI · 工具包

用 7.9B 的混合推理模型生成文本，每个词元只激活 1.3B 参数，适合本地和低资源环境。适合不想用数据中心 GPU 却要推理和智能体能力的开发者。

Hemmingway-1.5

HemmingwayAI · 工具包

写日常文字，如邮件、博客文章和商品描述，也能把其他 AI 写的文字改得更像真人口吻。一个约 27B 参数的开放权重模型，仅限非商业使用。

MiMo-V2.6-Pro-RL

XiaomiMiMo · 工具包

在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰，用大规模强化学习训练，面向编程和智能体工作。

Qwen3.5-9B-GGUF

unsloth · 工具包

Unsloth 制作的 Qwen3.5-9B GGUF 量化版本，一个能读图片和文字并用文字回答的中等规模模型，适合在本地运行模型的人。

Qwen2.5-Coder-7B-Instruct-GGUF

Qwen · 工具包

在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型，打包成 GGUF 文件，有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。

MiniCPM5-2B

openbmb · 工具包

用面向设备端和本地使用的稠密 2B 级模型生成文本，涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。

MiniCPM-OCR 1.0

openbmb · 工具包

OpenBMB 的 1.3B 模型，能读取英语和中文文档，解析文字、表格、公式、图表和印章，并提取关键字段。

gpt-oss-120b

openai · 工具包

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

CCORE GLB-3D-Coder 1.7B

ccore · 工具包

为你描述的游戏资产写出完整的 Three.js 页面，带 3D 预览和导出 GLB 按钮。这是微调过的 Qwen3-1.7B，GGUF 格式，能在普通硬件上运行，适合游戏开发者。

NorthCUA-Pro

beipo-ai · 工具包

读取截图和请求，为操控桌面或浏览器的智能体写出推理和工具调用。适合有大型 GPU 环境、构建电脑操作智能体的团队。

MiMo-V2.6-Distill-Qwen-9B

XiaomiMiMo · 工具包

Xiaomi MiMo 的 9B 智能体模型，由 Qwen3.5-9B 微调而来，覆盖编程、智能体任务、视觉编程和网络安全，作为研究的起点发布。

Thinklite-27B-GGUF

Sparset · 工具包

Thinklite-27B 的 4 位 GGUF 版本，适用于 llama.cpp，每次回答比基础模型用更少的推理，适合在本地运行 27B 文本模型的人。

Nemotron 3.5 Parse

nvidia · 工具包

读取扫描件、PDF、幻灯片和表单的页面图像，返回其中的文字、表格、图表数据、阅读顺序和边框，输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型，面向开发者。

S5-nano-GGUF

maritaca-ai · 工具包

用 2.8 到 8.7 GB 的 GGUF 文件，在 llama.cpp 和兼容应用里运行 Maritaca AI 的 S5-nano，这是一个针对巴西葡萄牙语调优、带函数调用和思考模式的 4B 模型。

Qwen3.8-27B-QSA-GGUF

higa2515 · 工具包

用 GGUF 文件运行带稀疏注意力的 Qwen3.8-27B，提供 Q8_0 和 Unsloth 的 Q4、Q5、Q6 混合版本，支持文字、图片和视频输入。适合使用 NVIDIA 显卡的 Linux 用户。

Raon-1 nano (MLX)

KRAFTON · 工具包

提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重，让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。

Arete-27B-GGUF

AtomicChat · 工具包

用六种尺寸的 GGUF 文件运行 Nous Research 的 Arete 27B，这是 Qwen3.8-27B 的微调版，能读文字和图像，并附有实测的质量损失。适合在自己 GPU 上运行大模型的人。

Spark-X2.6-4B-GGUF

XHToken · 工具包

面向设备端使用的紧凑 4B 语言模型的 GGUF 版本，针对编程、智能体和长上下文调校，有从无到高的三档思考级别。支持英文和中文。

Terminal-RSI-27B

Teriminal-RSI · 工具包

处理多步骤的终端任务，比如检查仓库、编辑代码和修复依赖。这是一个基于 Qwen3.8-27B 的 27.8B 参数智能体模型，面向研究者和智能体构建者。

WeVisOne-VL-4B

tencent · 工具包

用腾讯的一个 4B 视觉语言模型在图片中查找、计数、指向、识字和分割物体，并生成 alpha 抠图。适合做视觉定位和图像抠图的研究人员。

MNN-Pocket-0.3B-GGUF

taobao-mnn · 工具包

用 192 到 726 MB 的 GGUF 文件运行一个紧凑的 0.3B 中英文语言模型，专为手机、笔记本等设备端使用而做，可配合 llama.cpp、LM Studio 或 ollama。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

gemma-4-26B-A4B-it

google · 工具包

Google 发布的经指令微调的 Gemma 4 模型，读取文字和图像并输出文字，支持可配置的思考、函数调用，上下文窗口最长 256K 词元。适合开发者和研究者。

Qwen3.5-4B-Qwenputer

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 32 位 RISC-V CPU 编译进了权重里，所以能在模型内部做精确算术，适合想探索语言模型内部计算的研究人员和好奇的开发者。

Hy4-preview

tencent · 工具包

用一个 770B 参数的混合专家模型生成文字、代码和文档，它激活 49B 个参数，支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。

Qwen3.5-0.8B

Qwen · 工具包

读取图片和文字并用文字回复，来自 Qwen 的 873M 小模型。适合想用轻量多模态基础模型做原型或微调的开发者和研究者。

Qwen3.8-27B Turbo Brilliance NEO MAX MTP GGUF

DavidAU · 工具包

以 GGUF 形式运行 Qwen3.8-27B，带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

Muse Glimmer 30B

meta-models · 工具包

读取文字和图片，在本地机器上完成工具调用、多步推理等智能体任务，是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。

Raon-1 nano (GGUF)

KRAFTON · 工具包

把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件，让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Oc-e-Non-v1

p-e-w · 工具包

用更少的字数作答，回复长度约为它所基于的 Qwen3-4B-Instruct-2507 的一半，简短直接。适合想要精简文本生成结果的人。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Qwen3.8-27B GGUF (ShapeLearn Quantized)

byteshape · 工具包

用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件，提供五种适合不同显卡的版本，在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

Thinklite-27B

Sparset · 工具包

Qwen3.8-27B 的一个变体，推理用的 token 少得多，高强度下最终答案约快一倍，适合运行推理模型并希望等待更短的人。

Qwen3.5-9B

Qwen · 工具包

Qwen 的 9B 开放模型，能读取文字和图片并输出文字，上下文很长，支持 201 种语言和方言，适合想在自己硬件上用中等规模模型的开发者。

Spark-X2.6-4B

XHToken · 工具包

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

Diffusion-Qwen3.8-27B

summerAIO · 工具包

把 Qwen3.8-27B 转成掩码扩散语言模型，用并行解掩码的方式生成文字。这是一个实验性的研究检查点，适合有大显卡的研究人员和机器学习工程师。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

DeepSeek-V4.1-Flash-1017 的 GGUF 版本，有三种很小的尺寸，每个张量用各自的精度量化，适合在有限硬件上运行超大混合专家模型的人。

DeepSeek-V4.1-Flash-1017-GGUF

unsloth · 工具包

Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，这是一个巨大的图文模型，可在 128 GB 或更多内存的机器上本地运行，适合自己运行大型开放模型的人。

Ornith-1.5-9B-GGUF

ornith-ai · 工具包

提供 Ornith-1.5-9B 的 GGUF 文件，这是一个通过自我改进循环训练的 9B 稠密模型，适合单显卡使用。适合想要公开编程成绩的小模型的开发者。

Nanbeige4.3-33B

Nanbeige · 工具包

一个 33.1B 的开放模型，面向智能体编程和专业协作任务，是 Nanbeige4.3 系列的旗舰教师模型，适合想要约 30B 参数强力开放模型的开发者和智能体开发者。

Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的偏编程 GGUF 版本，去掉了一半专家，把 BF16 的 354 GB 缩到 58.4 GB，同时保留图片输入，适合有大机器、想在本地用编程模型的人。

Qwen3.5-0.8B-weight-space-programming

RikiyaT · 工具包

一个由 LLM 在不训练的情况下编辑了两个权重矩阵的 Qwen3.5-0.8B，用来消除它的思考死循环并提升数学能力。这是面向研究人员和小模型用户的实验性模型。