AI 智能体技能、规则与提示词工具包

LFM2.5-2.6B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统，有 12 种推理模式和 12 种指令模式，在提示词里切换。2.7B 测试版，供本地运行。

gpt-oss-20b-GGUF

unsloth · 工具包

在你自己的电脑上运行 OpenAI 开放权重的 gpt-oss-20b 推理模型，由 unsloth 打包成 GGUF 文件。适合想要本地模型、并能调节推理强度的开发者。

mai_replier-9b-v3

tcmofashi · 工具包

在中文 QQ 群聊里扮演一个角色：读取聊天记录，写出一句简短随意的回复，不显示推理过程。这是 Qwen3.5-9B 的合并 9B 微调模型，也能读取聊天里的图片。

Bonsai-27B-gguf

prism-ml · 工具包

把 27B 级推理模型做成约 3.9 GB 的 1-bit GGUF 文件，在 llama.cpp 上运行，笔记本或一张显卡就能放下。适合想在日常硬件上做本地推理的人。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

Mellum2.1-12B-A2.5B-Thinking

JetBrains · 工具包

12B 混合专家思考模型，激活参数 2.5B，在真实代码仓库中用强化学习训练，面向编程智能体、数学和困难推理。由 JetBrains 打造，上下文 131,072 token。

K2-Horizon-7B

IFM · 工具包

用 512K token 的上下文窗口写文字、代码和推理回答，适合想要训练数据、代码和检查点全部公开的开放稠密模型的开发者和研究人员。

Quark

FirstPrinciplesLabs · 工具包

FirstPrinciples 从 Qwen3.5-9B 微调出的 9B 物理、科学和数学推理模型。适合想要分步推导和第二意见，并希望在本地或离线使用的研究者。

Qwen3.8-2B-Distill-GGUF

empero-ai · 工具包

在手机、笔记本和单板计算机上运行小型 2B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp。

Qwen3.8-27B-pi

bytkim · 工具包

为 Pi 智能体框架调优的 27B 编程模型，训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈，推理强度可调。适合运行编程智能体的开发者。

GLM-5.3-Flash-NVFP4

nvidia · 工具包

提供 NVIDIA 对 ZAI 的 GLM-5.3-Flash 做的 NVFP4 量化版，这是一个用于推理、编码和智能体任务的多模态模型。适合在 Blackwell GPU 上用 vLLM 或 SGLang 部署的开发者。

Hermes-4.3-36B

NousResearch · 工具包

这是一个推理型对话模型，可以一步步思考，也可以快速作答，还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。

gemma-4-31B

google · 工具包

读取文字和图片并输出文字，适合想用 Google DeepMind 最大的稠密开放权重 Gemma 4 模型做编程、推理和图片提问的开发者和研究人员。

Qwen3.8-4B-Distill-GGUF

empero-ai · 工具包

在笔记本或中端显卡上运行 4B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp 等应用。

gemma-4-31B-it-GGUF

unsloth · 工具包

通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型，支持文本和图像输入，上下文很长。适合想要强大本地推理和编程模型的开发者。

Qwen3.8-9B-Distill-GGUF

empero-ai · 工具包

Empero 的 Qwen3.8-9B 的 GGUF 量化版本，一个由更大的 Qwen3.8 蒸馏到 Qwen3.5-9B 架构里的推理模型，适用于 llama.cpp、Ollama、LM Studio 等工具。

DeepSeek-R1

deepseek-ai · 工具包

用 684B 的推理模型生成文本，该模型主要通过强化学习训练，面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。

Beam-1.0-501B-A23B

reflection · 工具包

Reflection 推出的开放指令微调文本模型，501B 参数，每次激活 23B，上下文 1M token，面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。

Qwen3-4B

Qwen · 工具包

用 4B 的 Qwen3 模型生成文本，可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。