开发者 AI 技能与智能体

Spark-X2.6-4B GGUF

bartowski · 工具包

支持中英文的小型聊天模型，GGUF 文件从完整 bf16 到约 2.4 GB，供 llama.cpp 使用，有低或高两档思考设置。适合想要紧凑本地助手的开发者。

qwen-code

QwenLM · 工具包

开源的 AI 编程智能体，可在终端、IDE 插件、桌面应用、网页和聊天应用里使用，带子智能体、MCP 和多家模型服务商。适合用 AI 写代码的开发者。

Qwen3-4B-Instruct-2507

Qwen · 工具包

用 4B 模型回答对话提示，不显示思考过程，可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。

Qwen2.5-1.5B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5 1.5B 小型对话模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 在笔记本或普通 GPU 上运行。适合想要轻量本地助手的人。

Qwen2.5-1.5B-Instruct

Qwen · 工具包

Qwen 的 1.5B 小型对话模型，能遵循指令、写代码和数学、输出 JSON 等结构化内容，支持超过 29 种语言。适合需要轻量模型的开发者。

Hermes 4 14B

NousResearch · 工具包

Nous Research 的 14B 混合推理模型，基于 Qwen3-14B。它可以逐步思考、调用工具，并返回符合模式的 JSON。使用 ChatML 提示格式。

Hermes-3-Llama-3.1-8B-GGUF

NousResearch · 工具包

把 NousResearch 的 8B 通用聊天模型 Hermes 3 做成量化 GGUF 文件，供 llama.cpp 使用。适合想在本机用函数调用、结构化输出和代码帮助的人。

Hermes 3 Llama-3.1 8B

NousResearch · 工具包

Nous Research 基于 Llama 3.1 的 8B 通用对话模型，支持函数调用、结构化输出、角色扮演和代码辅助。适合想要一个可以自己运行、可引导的开放助手的开发者。

WPLM

Leejh123e · 工具包

一个小型聊天机器人，它的权重是用纯文本编辑清单手写出来的，完全没有经过训练。你可以把每条回复追溯到背后的神经元。需要联网访问一个公开的查询服务。

Sekai-1

8BitStudio · 工具包

一个 95.6M 参数的英文聊天模型，在单块 RTX 5060 Ti 上从零训练，小到可以在 CPU 上运行。适合想试玩小型本地语言模型的人。

Qwen3.5-35B-A3B

Qwen · 工具包

能读图像和文字的多模态聊天模型，总参数 35B，每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。

Qwen Sharp Chat Templates

peculiar-ragdoll · 工具包

替换 Qwen3.5、3.6 和 3.8 模型的聊天模板，让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。

Mistral-7B-Instruct-v0.3

mistralai · 工具包

Mistral AI 的 7.2B 开源聊天模型，能遵循指令，还能调用你描述的函数。它由 Mistral-7B-v0.3 微调而来，可用 mistral_inference 或 transformers 运行。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

Granite-4.2-8B

ibm-granite · 工具包

逐步推理、写代码、调用工具，并用多种语言聊天，上下文最长 128K token，可扩展到 512K。这是 IBM 的稠密 8B 模型，适合构建智能体和助手的开发者。

CherryPit-1.2-2B

DRUPEs · 工具包

基于 MiniCPM5-2B 的 2B 编程和聊天模型，在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。

TinyLlama-1.1B-Chat-v1.0

TinyLlama · 工具包

以小型 1.1B 语言模型的身份用纯文本聊天，运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。

Hermes-4.3-36B

NousResearch · 工具包

这是一个推理型对话模型，可以一步步思考，也可以快速作答，还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。

mine:o2-small

MineAITechnology · 工具包

MineAI Technology 推出的 355M 参数英文小型聊天模型，遵循简单的 User 和 Assistant 格式。这是研究级模型，回答能干净收尾、会写简短代码，但没有增加知识。

Spark-X2.6-1.7B-GGUF

XHToken · 工具包

以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型，可做中英文的聊天、编码和智能体任务，思考强度可调。适合在本地运行模型的人。