来自 Hugging Face 的 AI 项目

Qwen3.8-27B-oQ6e-mtp

Jundot · 工具包

Qwen3.8-27B 的混合精度 MLX 副本，约每个权重 6.9 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

Qwen3.6-35B-A3B-oQ6e-mtp

Jundot · 工具包

Qwen3.6-35B-A3B 的混合精度 MLX 副本，约每个权重 6.8 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

gemma-4-E4B-it-weight-space-programming

jstarks · 工具包

对 Google 的 Gemma 4 E4B-it 直接修改 0.002% 的权重、不做训练，用来解决思考模式下工具调用和多步数学的卡顿。也提供一个小型补丁文件。

Spark-X2.6-4B-AgentFast

JamieBradfield · 工具包

几乎没有思考延迟地调用工具并遵循指令，是 Spark-X2.6-4B 的 4.1B 微调模型。适合构建需要快速、直接调用工具的本地智能体的人。

Qwopus3.8-27B-Flash-V2-GGUF

Jackrong · 工具包

减少长时间智能体任务里被浪费的推理，是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本，Python 格式更好。适合在本地跑智能体循环的人。

Qwopus3.8-27B-Coder-Flash

Jackrong · 工具包

写代码、调用工具，作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型，用约 200,000 条代码和推理样例训练，适合有强力 GPU 的开发者。

Ling-3.0-tiny-GGUF

inclusionAI · 工具包

inclusionAI 的 Ling-3.0-tiny 的 GGUF 副本。这是一个小型混合专家推理模型，总参数 7.9B，激活参数 1.3B，适合低成本本地运行。

K2-Horizon-7B-GGUF

IFM · 工具包

IFM 的 K2-Horizon-7B 文本模型的量化 GGUF 副本，可在 llama.cpp 中本地运行，从 BF16 到 4 位都有，上下文窗口为 512K 词元。

granite-4.2-3b

ibm-granite · 工具包

回答前先一步步推理，在 IBM 的紧凑 3B 模型中提供工具调用、代码生成和多语言对话。原生支持 128K 上下文，采用 Apache 2.0 开源。

SmolLM2-360M-Instruct

HuggingFaceTB · 工具包

用一个 3.62 亿参数、在普通硬件上就能运行的指令微调模型回答聊天式问题，也能做改写和摘要。适合想要比 135M 更有余量的小型聊天模型的开发者。

Carbon-X

HuggingFaceBio · 工具包

在聊天里读取原始 DNA 并用英文回答，判断变异看起来是良性还是致病，适合想在自己 GPU 上运行 DNA 语言模型的研究人员。

Crystal-31B-RL

hiwaifu-research · 工具包

从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型，用用户的语言回复，无论是俄语、西班牙语、英语还是葡萄牙语，并一直保持这种语言。可处理图像和文字。

Holo4-27B

Hcompany · 工具包

查看截图并决定下一步的点击、按键、代码运行或工具调用，基于 Qwen3.8-27B。这是面向网页、桌面和手机智能体的电脑操作模型，采用非商业许可。

Qwen3-Reranker-0.6B-Q8_0-GGUF

ggml-org · 工具包

按与查询的相关度给段落排序，是 Qwen3 0.6B 重排序模型的 8-bit GGUF 副本，用 llama.cpp 制作。适合想要小型本地重排序模型来做搜索的开发者。

Kev-4B

ggml-org · 工具包

通过 llama 服务的 /v1/systemone API 做决策，来自一个 4.2B 模型的 GGUF 副本。适合想要小型本地决策模型的开发者。

gemma-4-E4B-it-GGUF

ggml-org · 工具包

Google gemma-4-E4B-it 的 GGUF 格式副本，可以用 Llama 应用或 llama serve 命令在你自己的电脑上运行，适合想在本地运行 Gemma 的人。

gemma-4-12B-it GGUF

ggml-org · 工具包

通过 Llama 应用或 llama 命令，在你自己的电脑上运行 Google 的 gemma-4-12B-it，文件是 ggml-org 自动转换的 GGUF。适合在本地运行模型的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。