来自 Hugging Face 的 AI 项目

Qwopus3.8-27B-Flash-GGUF

Jackrong · 工具包

为长时间的智能体任务缩短推理时间、降低成本，是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。

MLX-Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-6bit

Jackrong · 工具包

以 MLX 格式、6 位运行一个只有 0.8B 的推理调优聊天小模型，转换自 Jackrong 的 Qwen3.5 蒸馏模型。适合想在 Mac 上用一个很小本地模型的人。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

Qwen3.6-35B-A3B-2Bit-GSQ

ISTA-DASLab · 工具包

用 GSQ（Gumbel-Softmax 量化）制作的 Qwen3.6-35B-A3B 的 2 位量化副本，用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。

Agents-A1

InternScience · 工具包

作为一个 35B 开放权重语言模型，负责多步骤智能体工作：规划、搜索、调用工具和科学推理。适合要把模型接入会调用工具的智能体的开发者。

Flint-DFlash2

incoai · 工具包

一个 403M 参数的草稿模型，用 SGLang 里的推测解码加快 Flint 语言模型的服务速度，并且不改变输出。它不是独立的模型。

Ming-3.0-tts-tiny

inclusionAI · 工具包

inclusionAI 的多语言文字转语音模型，可根据短音频克隆声音，也能按描述设计声音，并控制情绪、语速和方言。推理需要它的 GitHub 项目。

Ming-3.0-audio-tiny

inclusionAI · 工具包

听音频并按文字指令用文字作答，还可选择语音回复。这是 inclusionAI 的紧凑音频语言模型，适合做中英文语音识别、语音提问和音频理解。

K2-Horizon-3.7B-GGUF

IFM · 工具包

3.7B 参数 K2-Horizon 文本模型的 GGUF 文件，提供从 BF16 到 Q4_K_M 的六种精度，用于 llama.cpp 运行。模型有 512K token 的上下文窗口。

K2-Horizon-0.9B

IFM · 工具包

作为一个紧凑的开源推理模型，回答数学、编程和科学问题，一次最多能读取 128K 个 token。由 IFM 制作，适合想要数据和代码都公开的小模型的人。

Granite-Docling-258M

ibm-granite · 工具包

把文档页面图像转换成结构化文本，支持公式、版面和关于页面元素的提问，是 IBM Research 的 258M 模型。适合用 Docling 构建文档转换的人。

Granite-4.2-3B (GGUF)

ibm-granite · 工具包

把 IBM 的 Granite 4.2 3B 文本模型打包成 GGUF 文件，供本地使用。4 位权重估计约 1.8 GB，适合想要采用 Apache 2.0 许可的小型模型的人。

Granite-4.0-H-350M

ibm-granite · 工具包

用 IBM 推出的 340M 参数指令模型处理摘要、分类、抽取、问答、RAG、代码任务和工具调用，支持 12 种语言。适合需要紧凑设备端模型的开发者。

Applio

IAHispano · 工具包

带浏览器界面的语音转换工具，注重易用和音质，支持插件。适合只转换自己有权使用的音频的艺术家、开发者和研究人员。

ALLaM-7B-Instruct-preview

humain-ai · 工具包

用阿拉伯语和英语回答问题、遵循指令。这是沙特数据与人工智能管理局（SDAIA）下属国家人工智能中心从零训练的 7B 模型，适合构建阿拉伯语工具的开发者和研究人员。

SmolVLM2-2.2B-Instruct

HuggingFaceTB · 工具包

同时回答关于视频、图像和文字的问题，用一个 2.2B 模型，视频推理约需 5.2 GB GPU 显存。适合构建设备端视觉助手的开发者。

zephyr-7b-beta

HuggingFaceH4 · 工具包

作为乐于助人的助手进行对话，由 Mistral-7B 经直接偏好优化调教而成。适合想自己运行小型开源聊天模型的开发者和爱好者。

svd-linear-attention-roberta-base-adasplash

Hooshaai · 工具包

用 AdaSplash 稀疏注意力的 RoBERTa Base 模型对英文文本分类，比如 SST-2 情感，用部分精度换取更低的延迟和显存占用。

roberta-base-fwsvd-rank32

Hooshaai · 工具包

用 Fisher 加权 SVD 以 rank 32 把 RoBERTa Base 压缩到约 82M 参数，对英文文本分类，用部分精度换取更低的延迟和显存占用。

roberta-base-adasplash

Hooshaai · 工具包

一个 RoBERTa Base 情感分类器，把注意力换成稀疏的 AdaSplash 版本，让 40% 的注意力权重变成零，以降低耗时和内存。适合测试高效注意力的开发者。

distilbert-sst2-rpc

Hooshaai · 工具包

在 GLUE SST-2 上微调的 DistilBERT 文本分类器，换用压缩的随机投影注意力，把打分计算量减半。适合研究更快注意力的实验模型。

MOSS-Transcribe-Diarize 0.9B

hf-audio · 工具包

一次处理就能转写多说话人的长录音，并加上时间戳和匿名说话人标签，支持 50 多种语言。适合把会议、电话、播客和讲座变成易读文字稿的团队。

SimulS2ST-Omni

HA-SA-ki · 工具包

提供英文和中文之间同声语音到语音翻译的模型文件，基于 OmniTalker。适合想运行或研究 EMNLP 2026 论文系统的研究者和开发者。

H2O-Lightning-4B

h2oai · 工具包

回答关于文档、工单、政策或对话及其配图的类型化决策问题，并给每个选项一个概率。适合想用小模型来判断记录的团队。

Tev-320B

gordonhu · 工具包

一个 320B 的混合专家智能体模型，只用一个 bash 工具完成较长的终端任务。用 1,170 个环境做强化学习训练，面向研究者，采用非商业许可。

gemma-4-31B-it-qat-q4_0-gguf

google · 工具包

把 Google 的 Gemma 4 31B 指令微调模型做成 4-bit GGUF 文件来运行，能读取文字和图片并用文字回答。适合有消费级显卡或工作站的开发者和爱好者。

T5 Base

google-t5 · 工具包

一个 2.2 亿参数的文本到文本模型，能做英语、法语、罗马尼亚语和德语之间的翻译，也能做摘要、问答和分类。适合开发者和 NLP 学习者。

BERT multilingual base model (cased)

google-bert · 工具包

在 104 种语言中补全被遮蔽的词并提取文本特征。这是区分大小写的 BERT 基础模型，用于微调后做分类、标注和问答。

bert-base-chinese

google-bert · 工具包

预测中文文本中被遮住的词，是 Google 针对中文预训练的 BERT base 模型。适合构建中文语言工具或为中文任务微调模型的开发者和研究人员。

xkcd-artist

gnumanth · 工具包

通过规划场景、姿势和对话气泡，把文本提示词变成 XKCD 风格的漫画，输出 SVG 或 PNG。适合想从一个想法快速得到漫画分格的人。

Qwen2.5-Coder-1.5B Q8_0 GGUF

ggml-org · 工具包

通过 llama.cpp 在你自己的机器上运行 Qwen2.5-Coder 1.5B 的 Q8_0 GGUF 文件，可以用命令行，也可以做成本地服务器。适合想用小型代码模型的开发者。

Darwin-27B-ZTC

FINAL-Bench · 工具包

读取一个情境和一组带类型的问题，一次前向计算就为每个选项返回概率，不生成任何文字。适合给工作流增加校准决策步骤的开发者。

GLiNER2.5-multi-Decide

fastino · 工具包

按你在调用时传入的标签对文本分类，一次计算完成，不需要提示词模板。这是 287M 的模型，用于非英语文本的路由、意图、情感和审核。可在本地运行。

Wav2Vec2-Base-960h

facebook · 工具包

把采样率为 16 kHz 的英语语音音频转成文字。这是在 960 小时 Librispeech 上微调过的 wav2vec 2.0 基础模型，适合需要转写基线的开发者和研究者。

SaulLM-54B-Instruct

Equall · 工具包

针对法律文本调优的语言模型，用美国和欧洲的法律资料训练。这是面向研究和改造法律 AI 的研究版本。它的回答仅供参考，不是法律意见。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

Kvark-Sparkle-1.0-27B

Egzakta · 工具包

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

ARK-ASR-3B

Edge0 · 工具包

用 Whisper 风格的音频编码器加 Qwen 解码器，把多种语言的语音转成文字。适合需要多语言转写的开发者和研究者，卡里给出了英文和中文的结果。

Rukopys-OCR-4B

ebinan92 · 工具包

从图片中读取乌克兰语手写文档，找出每个文字区域、标注类型，并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。

Distil-Whisper distil-large-v3

distil-whisper · 工具包

把英语语音转成文字，速度约为 Whisper large-v3 的 6.3 倍，长音频上的准确率仍很接近。适合需要转写录音的开发者和团队。

Maple-Preview

deepgrove · 工具包

一个 20B 的三值权重推理模型，每个词元激活约 1B 参数。为快速的设备端使用而设计，检查点为 5.31 GB，上下文为 131,072 词元。这是一个预览版，在智能体任务上较弱。

Kiyo-65M

DedeProGames · 工具包

用一个只有 65M 参数的仅解码器小模型续写英文文本，它在 80B 个词元上训练。适合想研究、比较小型 transformers 模型或拿它测试代码的学习者和研究者。

Surya OCR 2.5

datalab-to · 工具包

用 689M 参数的模型读取文档图像中的文字，还能找出文本行、版面块和阅读顺序。适合把扫描件和照片变成文字和 HTML 表格的开发者。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

ConeML 1.2B Experimental

ConeML · 工具包

从你提供的事实里找出最高、最老或第一个对象，是一个小型英文研究模型，提供 FP32 Safetensors 和 Q8_0 GGUF 文件。适合研究者，仅限非商业使用。

North Mini Code

CohereLabs · 工具包

Cohere 的开放权重研究模型，用于写代码、智能体软件工程和终端任务。30B 模型，3B 激活，256K 上下文。适合自己运行编程模型的开发者。

Anuvani-LID

CIIL · 工具包

识别音频片段里说的是印度 22 种官方语言还是印度英语，并给出校准过的分数。适合构建多语言语音流水线的开发者。

Chroma Context-1

chromadb · 工具包

一个 200 亿参数的搜索模型，为复杂的多步问题找出支撑文档，并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。

Qwen3.5-9B GGUF (ShapeLearn)

byteshape · 工具包

Qwen3.5-9B 的 GGUF 副本，这个模型能读文字和图像，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp。有 GPU 和 CPU 的版本，大小约从 3 GB 到 5.7 GB。

North-Mini-Code-1.0 GGUF

byteshape · 工具包

North-Mini-Code-1.0 编程模型的 GGUF 副本，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp 中的 GPU 使用。四种大小，从 12.1 GB 到 21.5 GB，适合单 GPU 的开发者。

Dolphin

ByteDance · 工具包

读取文档页面图像，按阅读顺序分两个阶段提取其中的文字、表格、公式和图表。一个紧凑的 398M 模型，适用于中文和英文文档。

UI-TARS-1.5-7B

ByteDance-Seed · 工具包

一个开放的多模态智能体模型，能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。

Cola DLM

ByteDance-Seed · 工具包

一个研究用的文本生成模型，在连续潜空间中写作，把文本自编码器和扩散 Transformer 配在一起。适合想运行并测试已发布检查点的研究人员和开发者。

SalamandraTA-7b-instruct

BSC-LT · 工具包

一个 7.8B 的翻译模型，支持 40 种语言和 3 种变体，可做句子、段落和文档翻译，也能处理 HTML 或 XML 文本。适合想要本地翻译器的开发者和研究人员。

ERNIE-4.5-VL-28B-A3B-Thinking

baidu · 工具包

读取图像和文字并进行推理，29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。

ERNIE-4.5-21B-A3B-Thinking

baidu · 工具包

以推理见长的 ERNIE 4.5 混合专家文本模型，总参数 21B、激活参数 3B，上下文 128K，支持工具调用，支持英文和中文。适合需要用较小激活规模做深度推理的开发者。

bge-small-en-v1.5

BAAI · 工具包

BAAI 的小型英文文本嵌入模型，把句子变成向量，用于搜索和检索。约 33M 参数，属于 FlagEmbedding 项目。

bge-base-en-v1.5

BAAI · 工具包

把英文文本转成用于搜索和检索的数字向量。这是 BAAI 的 109M 参数嵌入模型，适合通过 sentence-transformers 构建语义搜索或 LLM 检索的开发者。

GPT-X3-150M

AxiomicLabs · 工具包

Axiomic Labs 的 149M 参数基础文本模型，会接着你给的文本往下写。模型卡报告它的 Intelligence Index 为 33.05，高于 SmolLM2-135M 的 27.13。F32 下约 598 MB。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

Apodex-1.1-mini-GGUF

apodex · 工具包

面向长篇研究任务的推理模型，能处理文件、数据、代码和工具，以 GGUF 文件提供，可以自己托管。适合自己运行模型的研究者和开发者。

ModernBERT-large

answerdotai · 工具包

预测英文文本或代码中被隐藏的词，微调之后可作为更大的长上下文编码器，用于搜索、分类和检索。适合想要更大号 ModernBERT 的开发者和研究者。

ModernBERT-base

answerdotai · 工具包

预测英文文本或代码中被隐藏的词，微调之后可作为长上下文编码器，用于搜索、分类和检索。适合需要快速 BERT 风格编码器的开发者和研究者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

OLMoE-1B-7B-0924

allenai · 工具包

用运行成本较小的混合专家模型续写英文文本，激活参数 1B，总参数 7B。代码、数据和检查点全部开放，适合使用 transformers 的研究人员和开发者。

Olmo-3.1-32B-Think

allenai · 工具包

回答前先用英语一步步推理，对数学和代码问题有帮助。这是 allenai 的 32B 开放模型，公开了代码、检查点和训练细节，通过 transformers 运行。

Surya 2.5 GGUF

datalab-to · 工具包

从文档图像里读取文字、表格和版面，并以文字返回。这是 Surya 2.5 OCR 模型面向 llama.cpp 的 GGUF 版本，适合想在自己电脑上运行文档 OCR 的人。

Qwen2.5-0.5B-Instruct

Qwen · 工具包

作为最小的指令微调 Qwen2.5 模型回答对话提示，约 0.5B 参数。适合想要轻量本地模型来做对话、结构化输出和测试的开发者。

MiMo-V2.6-Flash-RL-NVFP4

primitive-ai · 工具包

为 Blackwell GPU 提供小米 MiMo-V2.6-Flash-RL 的 NVFP4 版本，专家权重值与官方发布完全一致，在两块 96 GB 显卡上吞吐更高。适合自托管大模型的人。

MinerU2.5-Pro

opendatalab · 工具包

读取文档页面图像并返回文字，是一个 1.2B 参数、为中英文文档解析打造的模型。适合把扫描页变成可用文字的团队。

K2-Horizon-3.7B

IFM · 工具包

作为一个上下文窗口达 512K token 的小型开源模型，处理编程、推理和智能体类任务。由 IFM 制作，适合想要公开的训练数据、代码和训练中途检查点的人。

SmolLM2-360M

HuggingFaceTB · 工具包

用一个 3.62 亿参数、训练了 4 万亿词元、轻到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用小型基础模型做测试或微调的开发者。

Molmo2-8B

allenai · 工具包

回答关于图片、视频以及多张图片的问题，还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。

SMaLL-100

alirezamsh · 工具包

在很长的语言列表之间翻译文本，覆盖超过 10K 个语言对，模型比 M2M-100 小得多、快得多。适合需要紧凑多语言翻译的开发者和研究者。

BaronLLM Offensive Security LLM Q6_K GGUF

AlicanKiraz0 · 工具包

回答安全问题，帮助规划经授权的红队演练，是 Llama 3.1 8B 的 Q6_K GGUF 微调版本。适合在有权测试的系统上工作的安全研究人员。

GigaChat3.1-10B-A1.8B-GGUF

ai-sage · 工具包

用俄语和英语聊天、写代码、调用函数，是 GGUF 文件形式的紧凑混合专家模型。适合在自己硬件上运行助手的人。

Ara-JEV

AhmedReda25300 · 工具包

根据一段简短的阿拉伯语情境、一个问题和可选选项，挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。

Occamy-1.0

Accio-Lab · 工具包

Accio-Lab 推出的开放 35B 图文模型，基于 Qwen3.6-35B-A3B，提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。

Smaug-Decisions

abacusai · 工具包

针对音频、图像或文本的提问，一次前向传播就给出每个选项的概率，不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。

GLM-5.3-Flash EXL3 Spark

0xSero · 工具包

在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash，使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。

Laplace-1-Atlas

JuneoAI · 工具包

通过一次推理给候选选项打分，帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型，权重以 Apache-2.0 开放。

ActionCodec2

ZibinDong · 工具包

把机械臂的动作转成紧凑的词元，也能转回去，提供 34 个现成的分词器变体。适合训练读写机器人动作的模型的机器人研究人员。

VideoJev-4B

ZhuYuhan · 工具包

找出视频里某件事发生的时间，并回答关于视频的选择题，方式是直接给候选项打分。基于 Qwen3.5-4B，适合视频研究者和开发者。

BiRefNet

ZhengPeng7 · 工具包

在高分辨率下把图像分成主体和背景，来自 2024 年一个二分图像分割研究项目。适合开发者、图像编辑人员和计算机视觉研究人员。

Tessera-27B-B-CJK-RL

ZelligeAI · 工具包

用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环，每轮花更少的思考词元。适合自己托管大模型的开发者。

AgentForesight-7B

ZBox008003 · 工具包

在多智能体运行展开时进行审计，标出最早的决定性错误，并指出出错的步骤、智能体和简短原因。适合构建和调试智能体团队的开发者。

Zabibu Fikra Model 2 (4B)

zabibutechnika · 工具包

用一个 4B 模型以斯瓦希里语和英语作答，设计为在你自己的设备上离线私密运行。适合需要非洲语境（如肯尼亚数据）的本地助手。

MiMo-V2.5-ASR

XiaomiMiMo · 工具包

转写普通话、英语和粤语的语音，包括中文方言、中英夹杂、歌词、嘈杂音频和多人会议，并自动加标点。适合需要语音转文字的团队。

Qwen3.6-27B-MTP-GGUF

unsloth · 工具包

用 Qwen3.6 27B 写代码和推理，提供 Unsloth 制作的、带多词元预测的 GGUF 文件，卡片说回复能快约 1.5 到 2 倍，且不损失准确度。为编程智能体而做。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

Muse Glimmer 30B GGUF

unsloth · 工具包

在本地运行一个能读文字和图片、调用工具并在调用失败后重试的 30B 智能体模型，使用 Unsloth 的 GGUF 文件。适合在消费级硬件上构建本地智能体的开发者。

granite-4.1-8b-GGUF

unsloth · 工具包

用 IBM 的 Granite 4.1 8B 模型遵循指令、调用工具和聊天，提供 Unsloth 制作的 GGUF 文件，包含聊天模板修复。适合商业助手和会用工具的智能体。

gemma-4-31B-it-qat-GGUF

unsloth · 工具包

用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型，自带用于推测解码的草稿模型，可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。

NeoHorse-1-9B

TokenRhythm · 工具包

从 Qwen3.5-9B 后训练而来的 9B 文本模型，面向智能体框架、工具调用、编程和指令遵循，只发布文本权重。适合在自己硬件上运行智能体的开发者。

Falcon OCR

tiiuae · 工具包

用一个小型 270M 参数模型读取文档图片，返回文字、LaTeX 公式或 HTML 表格，支持扫描件、收据和手写内容。

GameScaling

THUSI-Lab · 工具包

基于 Qwen3.5-0.8B 的小型视觉语言模型，来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。

UltraBERT-150M-clairic-extraction

tasksource · 工具包

按你用简短指令描述的字段，从文本里抽取答案，比如发票号或公司名，并返回匹配的片段。一个 150M 模型同时覆盖抽取式问答和实体识别。

Indic Multilingual Turn Detector

tarun7r · 工具包

读取语音转文字的转写文本，判断说话人是否已说完这一轮，支持英语、Hinglish 和七种印度语言。面向语音智能体和呼叫中心开发者。

Bielik-11B-v3.1-DFlash2

speakleash · 工具包

作为草稿模型与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。