来自 Hugging Face 的 AI 项目

Chroma Context-1

chromadb · 工具包

一个 200 亿参数的搜索模型，为复杂的多步问题找出支撑文档，并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。

North-Mini-Code-1.0 GGUF

byteshape · 工具包

North-Mini-Code-1.0 编程模型的 GGUF 副本，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp 中的 GPU 使用。四种大小，从 12.1 GB 到 21.5 GB，适合单 GPU 的开发者。

Cola DLM

ByteDance-Seed · 工具包

一个研究用的文本生成模型，在连续潜空间中写作，把文本自编码器和扩散 Transformer 配在一起。适合想运行并测试已发布检查点的研究人员和开发者。

SalamandraTA-7b-instruct

BSC-LT · 工具包

一个 7.8B 的翻译模型，支持 40 种语言和 3 种变体，可做句子、段落和文档翻译，也能处理 HTML 或 XML 文本。适合想要本地翻译器的开发者和研究人员。

MiniCPM5-2B-GGUF

bartowski · 工具包

MiniCPM5-2B 文本模型的多种大小的量化 GGUF 副本，用 llama.cpp 和重要性矩阵制作。适合在自己电脑上运行小型中英文模型的人。

Llama-3.2-1B-Instruct GGUF

bartowski · 工具包

Llama-3.2-1B-Instruct 的 GGUF 量化版本，这是一个支持八种语言的 1.2B 文本模型，4 位文件约 0.8 GB。适合运行微型本地模型的人。

gugujiji_novel-humanize-4b-GGUF

bartowski · 工具包

novel-humanize-4b 中文文本模型的量化 GGUF 副本，从完整精度到小体积文件都有。适合想在自己电脑上运行 40 亿参数写作模型的人。

granite-4.2-3b-GGUF

bartowski · 工具包

IBM 的 granite-4.2-3b 文本模型的量化 GGUF 副本，从完整精度到较小的 3 位文件，尺寸齐全。适合想在自己电脑上运行小型聊天模型的人。

Qwen3.8-Whittle-MoE-27B-MLX-4bit

barozp · 工具包

面向 Apple Silicon 的 4 位 MLX 版本，来自从稠密的 Qwen3.8-27B 切出来的混合专家模型，总参数 27B，激活 17.8B。适合用 mlx-lm 运行本地模型的人。

ERNIE-4.5-21B-A3B-Thinking

baidu · 工具包

以推理见长的 ERNIE 4.5 混合专家文本模型，总参数 21B、激活参数 3B，上下文 128K，支持工具调用，支持英文和中文。适合需要用较小激活规模做深度推理的开发者。

GPT-X3-150M

AxiomicLabs · 工具包

Axiomic Labs 的 149M 参数基础文本模型，会接着你给的文本往下写。模型卡报告它的 Intelligence Index 为 33.05，高于 SmolLM2-135M 的 27.13。F32 下约 598 MB。

Apodex-1.1-mini-GGUF

apodex · 工具包

面向长篇研究任务的推理模型，能处理文件、数据、代码和工具，以 GGUF 文件提供，可以自己托管。适合自己运行模型的研究者和开发者。

AMALIA-9B-0626-DPO

amalia-llm · 工具包

用欧洲葡萄牙语写作和回答，是葡萄牙高校推出的开源 9B 聊天模型，经监督微调和 DPO 调优。适合需要欧洲葡萄牙语语言模型的开发者和研究者。

OLMoE-1B-7B-0924

allenai · 工具包

用运行成本较小的混合专家模型续写英文文本，激活参数 1B，总参数 7B。代码、数据和检查点全部开放，适合使用 transformers 的研究人员和开发者。

Olmo-3.1-32B-Think

allenai · 工具包

回答前先用英语一步步推理，对数学和代码问题有帮助。这是 allenai 的 32B 开放模型，公开了代码、检查点和训练细节，通过 transformers 运行。

Qwen2.5-0.5B-Instruct

Qwen · 工具包

作为最小的指令微调 Qwen2.5 模型回答对话提示，约 0.5B 参数。适合想要轻量本地模型来做对话、结构化输出和测试的开发者。

MiMo-V2.6-Flash-RL-NVFP4

primitive-ai · 工具包

为 Blackwell GPU 提供小米 MiMo-V2.6-Flash-RL 的 NVFP4 版本，专家权重值与官方发布完全一致，在两块 96 GB 显卡上吞吐更高。适合自托管大模型的人。

K2-Horizon-3.7B

IFM · 工具包

作为一个上下文窗口达 512K token 的小型开源模型，处理编程、推理和智能体类任务。由 IFM 制作，适合想要公开的训练数据、代码和训练中途检查点的人。

SmolLM2-360M

HuggingFaceTB · 工具包

用一个 3.62 亿参数、训练了 4 万亿词元、轻到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用小型基础模型做测试或微调的开发者。

BaronLLM Offensive Security LLM Q6_K GGUF

AlicanKiraz0 · 工具包

回答安全问题，帮助规划经授权的红队演练，是 Llama 3.1 8B 的 Q6_K GGUF 微调版本。适合在有权测试的系统上工作的安全研究人员。

GigaChat3.5-432B-A28B

ai-sage · 工具包

用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型，激活参数 28B，适合能自行部署大模型的团队。

GigaChat3.1-10B-A1.8B-GGUF

ai-sage · 工具包

用俄语和英语聊天、写代码、调用函数，是 GGUF 文件形式的紧凑混合专家模型。适合在自己硬件上运行助手的人。

Ara-JEV

AhmedReda25300 · 工具包

根据一段简短的阿拉伯语情境、一个问题和可选选项，挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。

GLM-5.3-Flash EXL3 Spark

0xSero · 工具包

在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash，使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。

Qwen3.8-Flash-Next-125B-UltraLite-37GiB-GGUF

0xKitkat · 工具包

把 Qwen3.8-Flash-Next 混合专家模型压缩成约 37 GiB 的纯文本 GGUF 文件，供实验使用。它需要发布包里附带的补丁版 llama.cpp 才能运行。

Laplace-1-Atlas

JuneoAI · 工具包

通过一次推理给候选选项打分，帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型，权重以 Apache-2.0 开放。

AgentForesight-7B

ZBox008003 · 工具包

在多智能体运行展开时进行审计，标出最早的决定性错误，并指出出错的步骤、智能体和简短原因。适合构建和调试智能体团队的开发者。

Zabibu Fikra Model 2 (4B)

zabibutechnika · 工具包

用一个 4B 模型以斯瓦希里语和英语作答，设计为在你自己的设备上离线私密运行。适合需要非洲语境（如肯尼亚数据）的本地助手。

MiMo-V2.5-ASR

XiaomiMiMo · 工具包

转写普通话、英语和粤语的语音，包括中文方言、中英夹杂、歌词、嘈杂音频和多人会议，并自动加标点。适合需要语音转文字的团队。

NeoHorse-1-9B

TokenRhythm · 工具包

从 Qwen3.5-9B 后训练而来的 9B 文本模型，面向智能体框架、工具调用、编程和指令遵循，只发布文本权重。适合在自己硬件上运行智能体的开发者。

Falcon OCR

tiiuae · 工具包

用一个小型 270M 参数模型读取文档图片，返回文字、LaTeX 公式或 HTML 表格，支持扫描件、收据和手写内容。

Indic Multilingual Turn Detector

tarun7r · 工具包

读取语音转文字的转写文本，判断说话人是否已说完这一轮，支持英语、Hinglish 和七种印度语言。面向语音智能体和呼叫中心开发者。

MNN-Pocket-0.3B-Base

taobao-mnn · 工具包

约 300M 参数的预训练基础语言模型，支持中文和英文，与 MNN 推理引擎一起设计，面向设备端使用，可作为继续训练或微调的起点。

qwen-2.5-0.5b-block-transformer-hiba-wikitext2

tahamajs · 工具包

把 Qwen2.5-0.5B 的 24 层注意力中的 18 层换成分层块注意力算子，再在 WikiText-2 上蒸馏。这是用于研究注意力改造的研究检查点，不是成品聊天模型。

qwen-2.5-0.5b-bam-umoe-wikitext2

tahamajs · 工具包

把 Qwen2.5-0.5B 的 24 层注意力中的 18 层换成混合专家注意力块，再在 WikiText-2 上蒸馏。这是用于研究注意力改造的研究检查点，不是成品聊天模型。

Bielik-11B-v3.1-DFlash2

speakleash · 工具包

作为草稿模型与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。

Bielik-11B-v3.1-DFlash

speakleash · 工具包

作为 DFlash 草稿模型，与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 里做推测解码。它不是独立的语言模型。适合自己部署 Bielik 的人。

Beam-1.0-501B-A23B-NVFP4

reflection · 工具包

这个模型读写文本，上下文 1M 个 token，主打编程、智能体调用工具和数学推理，是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。

Flint NVFP4 GGUF

RecursiveSI · 工具包

Recursive Flint 文本模型的 4-bit NVFP4 单文件 GGUF 版本，通过 llama.cpp 在 NVIDIA GPU 上运行。适合用 pi 或 OpenCode 在本地跑大模型的开发者。

Kimi-K3.1-Dflash2-Preview

RadixArk · 工具包

通过起草一块 token 让主模型一次验证，来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型，与目标模型配合使用，不是独立的语言模型。

Qwen3Guard-Gen-0.6B

Qwen · 工具包

一个小型安全审核模型，把提示或模型回复标为安全、有争议或不安全，并指出风险类别，支持 119 种语言。适合筛查聊天输入和输出的开发者。

Qwen3-1.7B-GGUF

Qwen · 工具包

提供 Qwen3 1.7B 小型对话模型的 q8_0 GGUF 文件，供 llama.cpp 使用，可在思考与非思考回复之间切换。适合想要轻量本地助手的人。

Qwen3-1.7B-Base

Qwen · 工具包

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

Qwen3-1.7B

Qwen · 工具包

一个紧凑的 1.7B 聊天模型，可在用于推理的思考模式和用于对话的快速模式之间切换。适合想用小型开放模型做聊天、翻译和智能体功能的开发者。

Qwen2.5-Coder-14B-Instruct

Qwen · 工具包

一个 14.8B 参数、按指令调优的代码模型，能根据简单请求编写、解释和修复代码，通过 transformers 库运行。适合想自己托管模型的开发者。

Qwen2.5-7B-Instruct

Qwen · 工具包

这是一个 7.6B 参数的指令微调模型，能聊天、写代码、做数学题并输出结构化 JSON，上下文最长 131,072 个 token。适合需要在单台电脑上运行小型开源模型的开发者。

Qwen2 0.5B Instruct

Qwen · 工具包

Qwen 出品的小型 494M 参数聊天模型，能遵循指令，BF16 权重约 988 MB，通过 Transformers 运行。适合需要轻量模型做测试或简单任务的开发者。

1-bit Bonsai 27B (MLX)

prism-ml · 工具包

在 Apple MLX 上运行一个每个权重压成 1 比特、约 3.9 GB 的 27B 级推理模型，上下文 262K 词元。适合想在手机或笔记本上用大模型的开发者。

Bonsai-1.7B-GGUF

prism-ml · 工具包

用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本，适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。

Laguna XS 2.1

poolside · 工具包

用一个 33B 的混合专家模型写代码、完成需要调用工具的长编程任务，每个词元只激活 3B 参数。适合在本地运行编程智能体的开发者。