来自 Hugging Face 的 AI 项目

Qwen3-0.6B

Qwen · 工具包

最小的 Qwen3 对话模型，基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换，支持 100 多种语言和 32,768 token 的上下文，在普通硬件上也能运行。

GPT-2

openai-community · 工具包

用最小的 GPT-2 模型根据提示词生成英文文本，它经过预训练，学习预测下一个词。适合想运行或微调小型基础模型的学习者、研究人员和开发者。

Raon-1 nano (LiteRT-LM)

KRAFTON · 工具包

把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包，上下文 4,096 个 token，用于在设备上运行韩英双语聊天模型。回复不带思考步骤。

DeepSeek-R1

deepseek-ai · 工具包

用 684B 的推理模型生成文本，该模型主要通过强化学习训练，面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。

DeepHat-V1-7B

DeepHat · 工具包

面向网络安全和 DevOps 工作的 7B 编程模型，由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师，须遵守附加的使用限制。

Apex-35B-V1.0

Apexintelligence-AI · 工具包

用于编程、工具使用、问答、搜索和研究任务的文本模型，基于 Qwen3.6-35B-A3B，每个词元约用 3B 参数。适合开发者和研究者。

flint-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Flint，这是面向编程智能体的 39.8B 混合专家模型，每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。

Beam-1.0-501B-A23B

reflection · 工具包

Reflection 推出的开放指令微调文本模型，501B 参数，每次激活 23B，上下文 1M token，面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。

Qwen3-4B

Qwen · 工具包

用 4B 的 Qwen3 模型生成文本，可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。

Qwen3.8 13.5B

kusuriya-labs · 工具包

一个把 Qwen3.8-27B 剪掉一半层数再重新训练的实验，得到一个 14.7B 的日英模型，作者称它目前还不实用。

Ling-3.0-tiny

inclusionAI · 工具包

用 7.9B 的混合推理模型生成文本，每个词元只激活 1.3B 参数，适合本地和低资源环境。适合不想用数据中心 GPU 却要推理和智能体能力的开发者。

Hemmingway-1.5

HemmingwayAI · 工具包

写日常文字，如邮件、博客文章和商品描述，也能把其他 AI 写的文字改得更像真人口吻。一个约 27B 参数的开放权重模型，仅限非商业使用。

DeepSeek-V4-Flash

deepseek-ai · 工具包

DeepSeek 的预览版混合专家语言模型，总参数 284B，每个词元用 13B，上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。

Needle 3

Cactus-Compute · 工具包

Cactus Compute 的小型设备端模型，用于工具调用、结构化提取和文本嵌入，通过 cactus Python 包使用。适合构建本地智能体的开发者。

MiMo-V2.6-Pro-RL

XiaomiMiMo · 工具包

在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰，用大规模强化学习训练，面向编程和智能体工作。

Qwen2.5-Coder-7B-Instruct-GGUF

Qwen · 工具包

在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型，打包成 GGUF 文件，有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。

MiniCPM5-2B

openbmb · 工具包

用面向设备端和本地使用的稠密 2B 级模型生成文本，涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。

gpt-oss-120b

openai · 工具包

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

CCORE GLB-3D-Coder 1.7B

ccore · 工具包

为你描述的游戏资产写出完整的 Three.js 页面，带 3D 预览和导出 GLB 按钮。这是微调过的 Qwen3-1.7B，GGUF 格式，能在普通硬件上运行，适合游戏开发者。

Thinklite-27B-GGUF

Sparset · 工具包

Thinklite-27B 的 4 位 GGUF 版本，适用于 llama.cpp，每次回答比基础模型用更少的推理，适合在本地运行 27B 文本模型的人。

Nemotron 3.5 Parse

nvidia · 工具包

读取扫描件、PDF、幻灯片和表单的页面图像，返回其中的文字、表格、图表数据、阅读顺序和边框，输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型，面向开发者。

Qwen3-Embedding-0.6B

Qwen · 工具包

把文字转成数字向量，用于搜索、检索、分类和聚类，支持 100 多种语言，包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。

Raon-1 nano (MLX)

KRAFTON · 工具包

提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重，让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。

Ming-3.0-tts-0.5B

inclusionAI · 工具包

把文字转成七种语言的语音，包括中文和英文。它能用一段短音频复制声音，按描述设计新声音，并控制情绪、语速、音高和音量。

Spark-X2.6-4B-GGUF

XHToken · 工具包

面向设备端使用的紧凑 4B 语言模型的 GGUF 版本，针对编程、智能体和长上下文调校，有从无到高的三档思考级别。支持英文和中文。

Terminal-RSI-27B

Teriminal-RSI · 工具包

处理多步骤的终端任务，比如检查仓库、编辑代码和修复依赖。这是一个基于 Qwen3.8-27B 的 27.8B 参数智能体模型，面向研究者和智能体构建者。

MNN-Pocket-0.3B-GGUF

taobao-mnn · 工具包

用 192 到 726 MB 的 GGUF 文件运行一个紧凑的 0.3B 中英文语言模型，专为手机、笔记本等设备端使用而做，可配合 llama.cpp、LM Studio 或 ollama。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

Qwen3.5-4B-Qwenputer

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 32 位 RISC-V CPU 编译进了权重里，所以能在模型内部做精确算术，适合想探索语言模型内部计算的研究人员和好奇的开发者。

Hy4-preview

tencent · 工具包

用一个 770B 参数的混合专家模型生成文字、代码和文档，它激活 49B 个参数，支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。

Cactus runtime

Cactus-Compute · 工具包

提供预编译的运行时二进制文件，在手机、笔记本、服务器和浏览器上本地运行文字、语音和视觉模型。适合在应用里发布设备端 AI 的开发者。

Raon-1 nano (GGUF)

KRAFTON · 工具包

把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件，让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Oc-e-Non-v1

p-e-w · 工具包

用更少的字数作答，回复长度约为它所基于的 Qwen3-4B-Instruct-2507 的一半，简短直接。适合想要精简文本生成结果的人。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

Spark-X2.6-4B

XHToken · 工具包

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

Diffusion-Qwen3.8-27B

summerAIO · 工具包

把 Qwen3.8-27B 转成掩码扩散语言模型，用并行解掩码的方式生成文字。这是一个实验性的研究检查点，适合有大显卡的研究人员和机器学习工程师。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

DeepSeek-V4.1-Flash-1017 的 GGUF 版本，有三种很小的尺寸，每个张量用各自的精度量化，适合在有限硬件上运行超大混合专家模型的人。

Ornith-1.5-9B-GGUF

ornith-ai · 工具包

提供 Ornith-1.5-9B 的 GGUF 文件，这是一个通过自我改进循环训练的 9B 稠密模型，适合单显卡使用。适合想要公开编程成绩的小模型的开发者。

Nanbeige4.3-33B

Nanbeige · 工具包

一个 33.1B 的开放模型，面向智能体编程和专业协作任务，是 Nanbeige4.3 系列的旗舰教师模型，适合想要约 30B 参数强力开放模型的开发者和智能体开发者。

Recursive Flint

RecursiveSI · 工具包

为编程智能体打造的 39.8B 混合专家语言模型，能调查代码库、修复 bug、实现功能并编写测试，适合在 GPU 服务器上运行自己智能体的开发者。

dale-0.8b-GGUF

manuelgscom · 工具包

一个小型 4-bit GGUF 模型，把西班牙语或英语的普通请求变成一条 Linux bash 命令，在 dale 工具里离线用 CPU 运行，适合想要帮忙写 shell 命令的人。

Qwen3.8-27B-DSpine-b16-GGUF

aj9o9 · 工具包

一个 GGUF 草稿模型，通过推测解码在 llama.cpp 里加速 Qwen3.8-27B，在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token，适合在本地运行 Qwen3.8-27B 的人。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 专家剪枝加量化的 GGUF 版本，面向代码和智能体工作，transformer 权重为 72.1 GB。适合有大内存机器的开发者。

KLM 1.6

MinimaLabs · 工具包

用 MinimaLabs 的 99M 小型基础语言模型续写英文文字。适合想研究、测试或微调极小模型的研究者和爱好者。

DeepSeek-V4.1-Flash

deepseek-ai · 工具包

DeepSeek 的多模态混合专家模型，骨干有 552B 参数，上下文长达一百万个 token，专为降低长输入智能体工作的 KV 缓存成本而设计。适合有大型 GPU 集群的团队。

Raon-1 nano

KRAFTON · 工具包

用韩语和英语生成文本、遵循指令、保持对话上下文并调用工具。一个 3.1B 参数、上下文 262,144 个 token 的语言模型，适合开发者和设备端应用。

MNN-Pocket-0.3B

taobao-mnn · 工具包

一个约 300M 参数、支持英文和中文的小型指令微调语言模型，与 MNN 推理栈一起设计，面向手机和平板运行。适合构建端侧助手的开发者。