Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
分享 SillyTavern 的角色扮演预设,主要是 Voyage 系列,另有一个通用的 Eval 预设。适合用本地或云端语言模型玩故事聊天的人。
SillyTavern 是一款工具包,属于陪伴类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub
这是一个公开的 SillyTavern 预设合集。SillyTavern 是用语言模型做角色扮演的聊天前端。它的主力系列是 Voyage,有从 v2.0 到 v6 的多个版本。简介里还提到世界书和角色,但目前可见的内容主要是预设。
它适合已经在用 SillyTavern、想要现成提示词配置的角色扮演爱好者。预设作者也可以读这些文件,看别人如何组织规则。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 兴趣与游戏 | 角色扮演爱好者 | 加载 Voyage 预设来运行带 NPC 的故事场景 | 用 v6 的场景追踪和新闻系统 |
| 本地 AI | Gemma 4 或 Mistral 模型的用户 | 把预设和作者列出的某个模型搭配 | 用 Mistral Small 3.2 模型运行 v5.1 |
| 提示词写作 | 预设作者 | 阅读 Eval 预设来试验规则 | 在规则试验场里做实验 |
想要通用聊天助手、而不是角色扮演的人可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 带 NPC 的故事场景 | 角色扮演爱好者 | 一个引导 NPC 行为和世界事件的预设 |
| 追踪场景 | 长对话用户 | Voyage v6 增加的场景追踪 |
| 测试提示词规则 | 预设作者 | Eval 预设里的规则试验场 |
pip install -U huggingface_hub
hf download nohurry/sillytavern
选一个和你的模型匹配的预设版本,在 SillyTavern 里加载,然后开始聊天。最新的 Voyage v6 据说适用于 2024 年之后发布的任何模型。旧版本则列出了具体的模型。
| Tool | What it does |
|---|---|
| Voyage v6 | 新增新闻系统、场景追踪和在线离线模拟,暂时去掉了 PbtA 掷骰 |
| Voyage v5.1 | 改进思维链、NPC 互动和用户自主权,减少循环和语法错误 |
| Voyage v5.0 | 减少词元用量,改进世界动态和 NPC 互动 |
| Eval v1.0 | 一个用于实验的规则试验场,更偏向开发而不是日常使用 |
你加载 Voyage v6,用 Gemma 4 模型开始一段长长的角色扮演。卡片说这个预设会给你的故事加上场景追踪和新闻系统。它没有给出示例对话。
预设是一组保存好的指令,SillyTavern 会把它和你的消息一起发给模型。你可以先下载文件,再加载最新的 Voyage 预设,和作者列表里的某个模型聊天。
这个系列从 v2.0 的因果式生成,发展到 v5.0 改写成正向提示词。作者用 Gemma 4 31B QAT 版本测试了这些预设,开启 MTP,上下文为 32K BF16。其他模型上的效果可能不同,因为卡片只说其他模型也许可行。
分享 SillyTavern 的角色扮演预设,主要是 Voyage 系列,另有一个通用的 Eval 预设。适合用本地或云端语言模型玩故事聊天的人。
由 nohurry 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是一个公开的 SillyTavern 预设合集。SillyTavern 是用语言模型做角色扮演的聊天前端。它的主力系列是 Voyage,有从 v2.0 到 v6 的多个版本。简介里还提到世界书和角色,但目前可见的内容主要是预设。
适合谁:它适合已经在用 SillyTavern、想要现成提示词配置的角色扮演爱好者。预设作者也可以读这些文件,看别人如何组织规则。
Industry | Who uses it | How they use it | Example
兴趣与游戏 | 角色扮演爱好者 | 加载 Voyage 预设来运行带 NPC 的故事场景 | 用 v6 的场景追踪和新闻系统
本地 AI | Gemma 4 或 Mistral 模型的用户 | 把预设和作者列出的某个模型搭配 | 用 Mistral Small 3.2 模型运行 v5.1
提示词写作 | 预设作者 | 阅读 Eval 预设来试验规则 | 在规则试验场里做实验
想要通用聊天助手、而不是角色扮演的人可以跳过它。
用在哪里:
Use case | Who | What they get back
带 NPC 的故事场景 | 角色扮演爱好者 | 一个引导 NPC 行为和世界事件的预设
追踪场景 | 长对话用户 | Voyage v6 增加的场景追踪
测试提示词规则 | 预设作者 | Eval 预设里的规则试验场
如何设置:
pip install -U huggingface_hub
hf download nohurry/sillytavern
如何使用:选一个和你的模型匹配的预设版本,在 SillyTavern 里加载,然后开始聊天。最新的 Voyage v6 据说适用于 2024 年之后发布的任何模型。旧版本则列出了具体的模型。
Tool | What it does
Voyage v6 | 新增新闻系统、场景追踪和在线离线模拟,暂时去掉了 PbtA 掷骰
Voyage v5.1 | 改进思维链、NPC 互动和用户自主权,减少循环和语法错误
Voyage v5.0 | 减少词元用量,改进世界动态和 NPC 互动
Eval v1.0 | 一个用于实验的规则试验场,更偏向开发而不是日常使用
示例:你加载 Voyage v6,用 Gemma 4 模型开始一段长长的角色扮演。卡片说这个预设会给你的故事加上场景追踪和新闻系统。它没有给出示例对话。
新手与专家:预设是一组保存好的指令,SillyTavern 会把它和你的消息一起发给模型。你可以先下载文件,再加载最新的 Voyage 预设,和作者列表里的某个模型聊天。
这个系列从 v2.0 的因果式生成,发展到 v5.0 改写成正向提示词。作者用 Gemma 4 31B QAT 版本测试了这些预设,开启 MTP,上下文为 32K BF16。其他模型上的效果可能不同,因为卡片只说其他模型也许可行。
选一个预设版本
在 SillyTavern 里加载它的文件
从列表里选一个模型
带着预设的规则聊天
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download nohurry/sillytavern
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
schizophyllume · 工具包
提供一组会发出蜜蜂嗡嗡声的小型 GGUF 语言模型,有只会嗡嗡的小蜜蜂、带情绪标签的蜜蜂,以及蜂后与工蜂相连的蜂巢。适合喜欢超小模型的爱好者和开发者。
hiwaifu-research · 工具包
从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型,用用户的语言回复,无论是俄语、西班牙语、英语还是葡萄牙语,并一直保持这种语言。可处理图像和文字。
kingabzpro · 工具包
在 Gradio 页面里用 DialoGPT 模型,以《Rick and Morty》中 Rick 的口吻和你聊天。适合粉丝,也适合想看小型聊天机器人示例的开发者。