来自 Hugging Face 的 AI 项目

Needle 2

Cactus-Compute · 工具包

一个 45M 参数的开放模型，用于工具调用、设备操作和结构化提取，打包成一个 14 MB 的二进制文件，约 28 MB 内存即可运行。适合需要在手机、开发板和浏览器上做函数调用的开发者。

Sekai-1

8BitStudio · 工具包

一个 95.6M 参数的英文聊天模型，在单块 RTX 5060 Ti 上从零训练，小到可以在 CPU 上运行。适合想试玩小型本地语言模型的人。

Xing4.0-29B-A4B

XingChen-AGI · 工具包

用于生成文本，处理规划和调用工具等多步骤任务，支持中英文和 256K 上下文。这是一个混合专家模型，适合自行部署运行的开发者。

gpt-oss-20b-GGUF

unsloth · 工具包

在你自己的电脑上运行 OpenAI 开放权重的 gpt-oss-20b 推理模型，由 unsloth 打包成 GGUF 文件。适合想要本地模型、并能调节推理强度的开发者。

mai_replier-9b-v3

tcmofashi · 工具包

在中文 QQ 群聊里扮演一个角色：读取聊天记录，写出一句简短随意的回复，不显示推理过程。这是 Qwen3.5-9B 的合并 9B 微调模型，也能读取聊天里的图片。

Qwen3-Reranker-0.6B

Qwen · 工具包

为每个段落回答查询的程度打分，把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型，适合搭建搜索的开发者。

Qwen3-0.6B-Base

Qwen · 工具包

提供 Qwen3-0.6B-Base，这是 Qwen3 系列里小型的预训练基础模型，用 119 种语言训练，上下文 32k。适合要微调或研究微型语言模型的开发者。

Bonsai-27B-gguf

prism-ml · 工具包

把 27B 级推理模型做成约 3.9 GB 的 1-bit GGUF 文件，在 llama.cpp 上运行，笔记本或一张显卡就能放下。适合想在日常硬件上做本地推理的人。

Sharp-Spark-X2.5-4B-GGUF

peculiar-ragdoll · 工具包

4B 编程模型 Spark-X2.5 的压缩 GGUF 版本，针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。

ARLoop-1.2B

osunlp · 工具包

osunlp 推出的开放 1.2B 基础语言模型，是带注意力残差的循环 Transformer，附带一次 500B token 训练的检查点。适用于文本补全和进一步训练。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

Laplace-1-Vector

JuneoAI · 工具包

判断 AI 智能体该采取哪个行动、谁该负责任务、谁能看到什么，这是一个能在你自己硬件上运行的 4B 模型，组织数据不出门。

Mellum2.1-12B-A2.5B-Thinking

JetBrains · 工具包

12B 混合专家思考模型，激活参数 2.5B，在真实代码仓库中用强化学习训练，面向编程智能体、数学和困难推理。由 JetBrains 打造，上下文 131,072 token。

Sage-A1.5 GGUF (Q4_K_M)

InternScience · 工具包

以 4-bit GGUF 文件运行 Sage-A1.5，这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展，适用于 llama.cpp、Ollama 和 LM Studio。

Ling-3.1-flash

inclusionAI · 工具包

处理复杂的智能体、搜索、办公和编程工作，总参数 560B，激活参数 25B，上下文 1M token。服务示例使用多 GPU 服务器上的 SGLang，权重以 MIT 许可开放。

K2-Horizon-7B

IFM · 工具包

用 512K token 的上下文窗口写文字、代码和推理回答，适合想要训练数据、代码和检查点全部公开的开放稠密模型的开发者和研究人员。

Granite-4.2-8B

ibm-granite · 工具包

逐步推理、写代码、调用工具，并用多种语言聊天，上下文最长 128K token，可扩展到 512K。这是 IBM 的稠密 8B 模型，适合构建智能体和助手的开发者。

SmolLM3-3B

HuggingFaceTB · 工具包

作为小型 3B 开放模型来写作和回答问题，支持可切换的逐步思考、工具调用和长上下文，适合想在自己电脑上用紧凑模型的开发者。

MedErtas v0.1 27B LS

ErtasAI · 工具包

压缩到 22 GB 的开放权重医学语言模型，最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。

Qwen3.8-2B-Distill-GGUF

empero-ai · 工具包

在手机、笔记本和单板计算机上运行小型 2B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp。

CherryPit-1.2-2B

DRUPEs · 工具包

基于 MiniCPM5-2B 的 2B 编程和聊天模型，在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。

Tallow

digi-the-robot · 工具包

一个只有 15.7M 参数的小型语言模型，扮演一只野生乌鸦，用心情、动作和乌鸦叫声回答，还会记住你怎么对他。适合爱折腾的人，以及想和一个小角色模型聊天的人。

Nanbeige_Nanbeige4.3-33B-GGUF

bartowski · 工具包

bartowski 用重要性矩阵为 Nanbeige4.3-33B 制作的 GGUF 量化版本，大小约从 21 GB 到 66 GB。适合在本地用 llama.cpp 运行 33B 的中英文文本模型。

Qwen3.8-27B-DFlash2

z-lab · 工具包

一个草稿模型，通过提出一整块词元让主模型检查，来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。

Spark-X2.6-1.7B

XHToken · 工具包

用面向本地设备的紧凑 1.7B 模型生成文本，有三档可调的思考等级。适合想在本地硬件上获得编程、智能体和长上下文帮助的开发者。

TinyLlama-1.1B-Chat-v1.0

TinyLlama · 工具包

以小型 1.1B 语言模型的身份用纯文本聊天，运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。

Hy-MT2-1.8B

tencent · 工具包

腾讯推出的 1.8B 模型，可在 33 种语言之间翻译，并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。

Qwen3.6-35B-A3B-NVFP4

nvidia · 工具包

NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频，可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。

Hermes-4.3-36B

NousResearch · 工具包

这是一个推理型对话模型，可以一步步思考，也可以快速作答，还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。

mine:o2-small

MineAITechnology · 工具包

MineAI Technology 推出的 355M 参数英文小型聊天模型，遵循简单的 User 和 Assistant 格式。这是研究级模型，回答能干净收尾、会写简短代码，但没有增加知识。

LongCat-Next

meituan-longcat · 工具包

把文字、图像和音频作为离散 token 统一处理的原生多模态模型，参数 74.3B。适合构建能看、能听、能生成内容的应用的研究人员和开发者。

Qwen3.8-Flash-Next-DFlash2

incoai · 工具包

一次起草多个 token 让主模型去核对，以此加快 Qwen3.8-Flash-Next，适合用 SGLang 部署该模型、想更快出结果又不改动它的工程师。

Qwen3.8-4B-Distill-GGUF

empero-ai · 工具包

在笔记本或中端显卡上运行 4B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp 等应用。

Spark-X2.6-1.7B-GGUF

XHToken · 工具包

以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型，可做中英文的聊天、编码和智能体任务，思考强度可调。适合在本地运行模型的人。

GLM-5.3-Flash-Coder-RCO-152E-GGUF

lapadatbogdan · 工具包

在家用电脑上运行裁剪过的 GLM-5.3-Flash 编程和智能体模型，提供五种量化大小的 GGUF 文件。每层保留 288 个专家中的 152 个，把 321B 模型缩小到约 170B。

Sage-A1.5

InternScience · 工具包

作为智能体处理长篇科学任务，能委派给子智能体、检查自己的进展并修订计划。这是面向研究和工程工作流的 35B 混合专家模型。

Qwen3.8-35B-A3B-Distill

empero-ai · 工具包

回答前先一步步推理，使用 35B 的混合专家模型，每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来，侧重数学和代码。

Sabi-Noema

sabicap · 工具包

基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型，报告了更高的终端和编程智能体得分，适合构建编程和调用工具智能体的开发者。

Qwen3-Embedding-8B

Qwen · 工具包

把文本变成向量，用于搜索、代码检索、分类和聚类，支持 100 多种语言。这是 Qwen 嵌入系列里的 8B 模型，向量大小可调，还支持任务指令。

Qwen3-8B-GGUF

Qwen · 工具包

在 llama.cpp 或 Ollama 中运行量化后的 Qwen3-8B GGUF 文件，有用于数学、代码和逻辑的思考模式，也有用于聊天的普通模式。适合想要本地模型并能选择文件大小的人。

GLM-5.3-Flash Maya GGUF

peasantsmith · 工具包

GLM-5.3-Flash 的五个 GGUF 压缩版本，GLM-5.3-Flash 是 321B 的混合专家模型，大小从 73.4 GB 到 156.3 GB，为 Project Maya 制作，它把模型分摊到 GPU、内存和固态硬盘上。

hs-decide-1-flash

hindsight-ai · 工具包

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

Qwen3.8-9B-Distill-GGUF

empero-ai · 工具包

Empero 的 Qwen3.8-9B 的 GGUF 量化版本，一个由更大的 Qwen3.8 蒸馏到 Qwen3.5-9B 架构里的推理模型，适用于 llama.cpp、Ollama、LM Studio 等工具。

Gemma4-12B v2 Coding + Agentic Edition

yuxinlu1 · 工具包

Google Gemma 4 12B 指令模型的 GGUF 微调版本，面向编程和使用工具的智能体工作，只需约 4.5 GB 空闲内存就能离线运行。

Qwen3-8B

Qwen · 工具包

Qwen 的 8.2B 开放语言模型，可在处理难题的思考模式和日常聊天的普通模式之间切换，支持工具调用和 100 多种语言。

Qwen3.8-27B NVFP4

nvidia · 工具包

NVIDIA 把阿里巴巴 Qwen3.8-27B 压缩成 4 位 NVFP4 的版本，用 Model Optimizer 制作，面向 Blackwell GPU，输入文字、图片和视频，输出文字。

Raon-1 mini

KRAFTON · 工具包

能聊天和推理，尤其擅长韩语，并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型，每个词元激活 4.3B 参数，上下文 262,144 个词元。KRAFTON AI 的预览版本。

NCM checkpoints

hazyresearch · 工具包

Hazy Research 为 Next-Concept Modeling 发布的研究检查点，这是一种由粗到细的文本生成方法，含用于摘要、翻译、数独和语言建模的分词器与生成器配对。

Qwen3.8-35B-A3B-Distill-GGUF

empero-ai · 工具包

用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型，每个 token 约 3B 参数在工作，另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。

GLM-5.3-Flash-GGUF

unsloth · 工具包

在你自己的硬件上运行 Unsloth 的 GLM-5.3-Flash 文本模型 GGUF 版本，作者把这个大型开源模型定位于编码和智能体工作。适合内存充足的人。