来自 Hugging Face 的 AI 项目

Kimi-K3.1-Pro-Coder

Grawnch · 工具包

运行经过深度压缩的 2.8T 参数 Kimi-K3.1-Pro，针对编码和数学做了调校。由 Grawnch 用三层混合比特方案制作，适合拥有高端 GPU 工作站的人。

CherryPit-1.2-2B

DRUPEs · 工具包

基于 MiniCPM5-2B 的 2B 编程和聊天模型，在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。

Qwen3.8-27B-pi

bytkim · 工具包

为 Pi 智能体框架调优的 27B 编程模型，训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈，推理强度可调。适合运行编程智能体的开发者。

Spark-X2.6-1.7B

XHToken · 工具包

用面向本地设备的紧凑 1.7B 模型生成文本，有三档可调的思考等级。适合想在本地硬件上获得编程、智能体和长上下文帮助的开发者。

GLM-5.3-Flash-NVFP4

nvidia · 工具包

提供 NVIDIA 对 ZAI 的 GLM-5.3-Flash 做的 NVFP4 量化版，这是一个用于推理、编码和智能体任务的多模态模型。适合在 Blackwell GPU 上用 vLLM 或 SGLang 部署的开发者。

gemma-4-31B

google · 工具包

读取文字和图片并输出文字，适合想用 Google DeepMind 最大的稠密开放权重 Gemma 4 模型做编程、推理和图片提问的开发者和研究人员。

DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000

diffbot · 工具包

在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版，适合在自己硬件上部署大型编程和智能体模型的开发者。

Spark-X2.6-1.7B-GGUF

XHToken · 工具包

以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型，可做中英文的聊天、编码和智能体任务，思考强度可调。适合在本地运行模型的人。

Qwen3.5-4B-3D-Coder-MTP-Repacked

prithivMLmods · 工具包

ccore 的 Qwen3.5-4B-3D-Coder 的重新打包版本，一个为编程回答和 Three.js 3D 场景调优的小模型，附带支持多词元预测的 GGUF 文件。

GLM-5.3-Flash-Coder-RCO-152E-GGUF

lapadatbogdan · 工具包

在家用电脑上运行裁剪过的 GLM-5.3-Flash 编程和智能体模型，提供五种量化大小的 GGUF 文件。每层保留 288 个专家中的 152 个，把 321B 模型缩小到约 170B。

gemma-4-31B-it-GGUF

unsloth · 工具包

通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型，支持文本和图像输入，上下文很长。适合想要强大本地推理和编程模型的开发者。

Sabi-Noema

sabicap · 工具包

基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型，报告了更高的终端和编程智能体得分，适合构建编程和调用工具智能体的开发者。

Gemma4-12B v2 Coding + Agentic Edition

yuxinlu1 · 工具包

Google Gemma 4 12B 指令模型的 GGUF 微调版本，面向编程和使用工具的智能体工作，只需约 4.5 GB 空闲内存就能离线运行。

Inkling

thinkingmachines · 工具包

读取文字、图片和音频并写出文字，是一个庞大的开放多模态模型，适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。

GLM-5.3-Flash-GGUF

unsloth · 工具包

在你自己的硬件上运行 Unsloth 的 GLM-5.3-Flash 文本模型 GGUF 版本，作者把这个大型开源模型定位于编码和智能体工作。适合内存充足的人。

DeepHat-V1-7B

DeepHat · 工具包

面向网络安全和 DevOps 工作的 7B 编程模型，由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师，须遵守附加的使用限制。

Apex-35B-V1.0

Apexintelligence-AI · 工具包

用于编程、工具使用、问答、搜索和研究任务的文本模型，基于 Qwen3.6-35B-A3B，每个词元约用 3B 参数。适合开发者和研究者。

Qwen3.6-35B-A3B-MTP-GGUF

unsloth · 工具包

通过 Unsloth 的 GGUF 文件在本地运行 Qwen3.6-35B-A3B，带多词元预测，让 llama.cpp 解码更快。适合想要本地智能体编程模型的开发者。

flint-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Flint，这是面向编程智能体的 39.8B 混合专家模型，每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。

Beam-1.0-501B-A23B

reflection · 工具包

Reflection 推出的开放指令微调文本模型，501B 参数，每次激活 23B，上下文 1M token，面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

Alpie Seed 9B GGUF

169Pi · 工具包

通过三种位深的 GGUF 文件，在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。

MiMo-V2.6-Pro-RL

XiaomiMiMo · 工具包

在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰，用大规模强化学习训练，面向编程和智能体工作。

Qwen2.5-Coder-7B-Instruct-GGUF

Qwen · 工具包

在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型，打包成 GGUF 文件，有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。

MiniCPM5-2B

openbmb · 工具包

用面向设备端和本地使用的稠密 2B 级模型生成文本，涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。

whisper-large-v3-turbo

openai · 工具包

OpenAI 的更快的 Whisper 模型，用于语音识别和语音翻译，有 809M 参数，解码层只有 4 层。适合开发者和需要转写音频的人。

MiMo-V2.6-Distill-Qwen-9B

XiaomiMiMo · 工具包

Xiaomi MiMo 的 9B 智能体模型，由 Qwen3.5-9B 微调而来，覆盖编程、智能体任务、视觉编程和网络安全，作为研究的起点发布。

Spark-X2.6-4B-GGUF

XHToken · 工具包

面向设备端使用的紧凑 4B 语言模型的 GGUF 版本，针对编程、智能体和长上下文调校，有从无到高的三档思考级别。支持英文和中文。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Alpie Seed 9B

169Pi · 工具包

用一个基于 Qwen3.5-9B 的 9B 开放权重模型处理文字、图片和视频，做推理和编程，并提供适合轻量硬件的 GGUF 版本。适合想要能离线运行的模型的开发者。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Qwen3.8-27B GGUF (ShapeLearn Quantized)

byteshape · 工具包

用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件，提供五种适合不同显卡的版本，在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。

Spark-X2.6-4B

XHToken · 工具包

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

Ornith-1.5-9B-GGUF

ornith-ai · 工具包

提供 Ornith-1.5-9B 的 GGUF 文件，这是一个通过自我改进循环训练的 9B 稠密模型，适合单显卡使用。适合想要公开编程成绩的小模型的开发者。

Nanbeige4.3-33B

Nanbeige · 工具包

一个 33.1B 的开放模型，面向智能体编程和专业协作任务，是 Nanbeige4.3 系列的旗舰教师模型，适合想要约 30B 参数强力开放模型的开发者和智能体开发者。

Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的偏编程 GGUF 版本，去掉了一半专家，把 BF16 的 354 GB 缩到 58.4 GB，同时保留图片输入，适合有大机器、想在本地用编程模型的人。

Recursive Flint

RecursiveSI · 工具包

为编程智能体打造的 39.8B 混合专家语言模型，能调查代码库、修复 bug、实现功能并编写测试，适合在 GPU 服务器上运行自己智能体的开发者。

Qwen3.8-27B-DSpine-b16-GGUF

aj9o9 · 工具包

一个 GGUF 草稿模型，通过推测解码在 llama.cpp 里加速 Qwen3.8-27B，在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token，适合在本地运行 Qwen3.8-27B 的人。

AREX-2

BAAI · 工具包

用 BAAI 的 27B 模型，通过多轮提出、测量、反思和修改来改进自己的解答，适合做编程、机器学习和深度研究任务的智能体研究者和开发者。

Nex-N2.6

nex-agi · 工具包

作为多模态智能体模型处理计算机操作、编程和长时间的工具任务，基于 GLM-5.3-Flash，FP8 权重约 321B 参数。适合能自行托管大模型的团队。

Unlimited-OCR-2

baidu · 工具包

百度的 3.3B 文档解析模型，面向长文档，用 SR-SWA 注意力让解码成本几乎保持不变，提供 Transformers 和 SGLang 两条使用路线。适合要把长报告和书籍数字化的团队。

LongCat-2.5

meituan-longcat · 工具包

美团 LongCat 的多模态混合专家模型，面向长时间的智能体任务和编程，总参数约 1.6 万亿，每个 token 激活 480 亿。适合有大型 GPU 集群的实验室和团队。

Multi-Agent AI - Coding

bstraehle · 工具包

一个用 Microsoft AutoGen 做的 Gradio 演示，让多个 AI 智能体一起完成编程任务。可以在 Hugging Face 的浏览器里用，也可以在自己的电脑上跑一份。

3D World Generator WebGPU

ReallyFloppyPenguin · 工具包

把一段文字描述变成可交互的 3D 世界，以一个使用 Three.js 的 HTML 文件交付。一个小型代码模型通过 WebGPU 在你的浏览器里运行。

mini-infer

prajwalpujari16 · 工具包

一个浏览器工作室，模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。

infersize

prajwalpujari16 · 工具包

一个浏览器工具，在你租用或购买硬件之前，估算 LLM 需要的 GPU 显存，比较 GPU，估算投机解码的延迟，并估算每百万 token 的云成本。

stuntd

pollix · 工具包

一个浏览器演示，用两种方式回答问题：基础 Laya 模型零样本回答，以及 stuntd 为每个决策训练的小型头，涵盖客服分流、银行业务和编程智能体命令闸门。