Maximizing Model Performance 指南

Maximizing Model Performance 指南

指导你为本地语言模型调节采样器和参数，并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。

由 DavidAU 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 DavidAU 写的一份指南，通过调节采样器、高级采样器和参数，让本地语言模型给出更好的结果。它涵盖所有量化类型和完整精度。这里看到的部分链接了四份额外文档，主指南在这里看到的内容之后还有。

适合谁：适合在自己电脑上运行语言模型、想调节模型行为的人。适合 LM Studio、SillyTavern、Ollama 和 Koboldcpp 的用户，也适合运行 DavidAU 自己模型的人。

行业 | 谁在用 | 怎么用 | 例子
本地 AI | 爱好者 | 调节本地模型的行为 | 把系统提示词粘贴到应用里，打开推理
角色扮演 | SillyTavern 用户 | 在模板页面设置系统提示词 | 激活系统提示词选项并输入文字
开发 | 开发者 | 设置混合专家模型使用多少个专家 | 按指南里针对你所用应用的步骤操作
模型折腾 | 模型爱好者 | 把普通模型变成推理模型 | 按用到 Mergekit 的适配器步骤操作

如果你只用托管的聊天服务，可以跳过它，因为这份指南讲的是本地应用。

用在哪里：

• LM Studio
• SillyTavern
• Ollama
• Koboldcpp

用例 | 适合谁 | 得到什么
推理控制 | 本地模型用户 | 通过系统提示词打开或关闭推理
专家设置 | 开发者 | 混合专家模型里选定数量的活跃专家
低量化支持 | 小量化模型用户 | 作者说能帮助他的模型无问题运行的软件

如何设置：你需要 Python 来运行下载工具，还需要一个本地应用来应用这些设置。

• Python，用来运行 Hugging Face 工具
• 一个本地应用，比如 LM Studio、SillyTavern、Ollama 或 Koboldcpp
• 一个要调节的模型，比如作者的某个模型

1. 如果还没有 Python，先安装它。
2. 安装 Hugging Face hub 工具。
3. 下载这个仓库。
4. 打开你的应用，找到它的系统提示词设置。

pip install -U huggingface_hub
hf download DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters

如何使用：打开应用的系统提示词框，粘贴某个模型页面给你的文字。粘贴时保留每一个换行。如果需要编辑文字，请在记事本或应用本身里编辑。

工具 | 作用
LM Studio | 打开 Power User 或 Developer 模式，然后粘贴到系统提示词框
SillyTavern | 在模板页面激活系统提示词并输入文字
Ollama | 设置系统消息，按 Ollama 自己的说明文档来
Koboldcpp | 加载并启动模型，打开设置，选一个模板并填写系统提示词框

示例：你在 LM Studio 里加载一个推理模型并打开 Developer 模式。你把作者的推理系统提示词粘贴进框里，保留换行。模型现在会写出它的思考过程。如果框是空的，需要这段提示词的模型就像普通聊天模型一样运行。

新手与专家：采样器是控制模型怎么挑选下一个词的设置。系统提示词是告诉模型该怎么表现的固定文字。第一步很小：打开你应用的系统提示词框，看看里面有什么。

指南把系统提示词称为对模型的根权限。它引导指令遵循、输出，以及对推理模型来说推理是否开启。更大的模型，或者指令遵循更好的模型，对粘贴进去的提示词反应更明显。链接的文档还讲了适配器，也就是推理模型的一个切片，它能把普通模型变成会思考的模型。

选一个本地应用和一个模型
打开应用的系统提示词设置
带着换行粘贴提示词文字
运行模型并比较输出

注意事项：

• 主要的采样器和参数指南在这里看到的内容里被截断了，所以这一页讲的是额外文档和系统提示词的步骤。
• 对需要它的推理模型来说，不设置系统提示词，推理就保持关闭。
• 模型卡说系统提示词也能改进普通模型，对更大的模型效果更强。
• License: apache-2.0。
• Cost to run: 未提及，你使用自己的硬件。
• Data it reaches: 从 Hugging Face 下载的文件，以及它的链接指向的页面。
• Not for: 直接用来聊天，因为模型卡读起来是一份指南，而不是一个模型。

Hugging Face 上的数据（2026年11月13日）

• 最近 30 天下载：0
• 点赞：276
• 许可证：apache-2.0
• 标签：coherence, llamacpp, lmstudio, sillytavern, koboldcpp, backyard, ollama, steering, ggufs, exl2, quants, imatrix

链接

• 模型：https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters
• 文件：https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。