来自 Hugging Face 的 AI 项目

Spark-X2.6-1.7B-GGUF

XHToken · 工具包

以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型，可做中英文的聊天、编码和智能体任务，思考强度可调。适合在本地运行模型的人。

Qwen3-8B-GGUF

Qwen · 工具包

在 llama.cpp 或 Ollama 中运行量化后的 Qwen3-8B GGUF 文件，有用于数学、代码和逻辑的思考模式，也有用于聊天的普通模式。适合想要本地模型并能选择文件大小的人。

Gemma4-12B v2 Coding + Agentic Edition

yuxinlu1 · 工具包

Google Gemma 4 12B 指令模型的 GGUF 微调版本，面向编程和使用工具的智能体工作，只需约 4.5 GB 空闲内存就能离线运行。

Qwen3-8B

Qwen · 工具包

Qwen 的 8.2B 开放语言模型，可在处理难题的思考模式和日常聊天的普通模式之间切换，支持工具调用和 100 多种语言。

Qwen3-0.6B

Qwen · 工具包

最小的 Qwen3 对话模型，基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换，支持 100 多种语言和 32,768 token 的上下文，在普通硬件上也能运行。

Raon-1 nano (LiteRT-LM)

KRAFTON · 工具包

把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包，上下文 4,096 个 token，用于在设备上运行韩英双语聊天模型。回复不带思考步骤。

Qwen3-4B

Qwen · 工具包

用 4B 的 Qwen3 模型生成文本，可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。

Qwen-Fixed-Chat-Templates

froggeric · 工具包

用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板，修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。

Spark-X2.6-4B-GGUF

XHToken · 工具包

面向设备端使用的紧凑 4B 语言模型的 GGUF 版本，针对编程、智能体和长上下文调校，有从无到高的三档思考级别。支持英文和中文。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

gemma-4-26B-A4B-it

google · 工具包

Google 发布的经指令微调的 Gemma 4 模型，读取文字和图像并输出文字，支持可配置的思考、函数调用，上下文窗口最长 256K 词元。适合开发者和研究者。

Spark-X2.6-4B

XHToken · 工具包

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

Qwen3.5-0.8B-weight-space-programming

RikiyaT · 工具包

一个由 LLM 在不训练的情况下编辑了两个权重矩阵的 Qwen3.5-0.8B，用来消除它的思考死循环并提升数学能力。这是面向研究人员和小模型用户的实验性模型。

gemma-4-31B-it

google · 工具包

Google DeepMind 推出的 31B 指令微调模型，能读文字和图片并输出文字，上下文 256K，可配置思考模式，适合在工作站或服务器上运行开放模型的开发者。

THX-02

HAL-X-AI · 工具包

针对一条消息、文档、图片或图表里的纯文字问题，在几十毫秒内给出每个选项的概率，适合做工单分流和记录分类的开发者。

GLM-5.3-Flash

zai-org · 工具包

zai-org 的 GLM-5 系列原生多模态模型，总参数 320B、激活 18B，采用稀疏与线性注意力的混合设计，并能控制思考预算。适合有大型 GPU 服务器的团队。

DeepSmolLM3 3B Chat

Oxygen-Low · 工具包

DeepSmolLM3-3B 的浏览器聊天演示，这是一个 3B 参数的推理模型，会把长篇思考和答案分开显示。适合想不用 API 密钥就试试小型推理模型的人。

THX-02

HAL-X-AI · 工具包

用 THX-02 决策模型，对你描述的情境里的每个选项给出概率，还有可选的思考模式。这是一个 Gradio 演示，适合测试校准决策的研究者和开发者。