Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版，含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
新上架
概览
一个带聊天窗口的 n8n 工作流。每条消息经由 Basic LLM Chain 发给你自己机器上 Ollama 提供的模型，回答回到同一个窗口。
和跑在你自己 Ollama 上的模型聊天 是一款 n8n 工作流，属于开发类，由 Mindket 上架。可免费获取。当前为第 1 版，最近更新于 。在本页下载，或复制它的 JSON，再导入 n8n 画布。在 n8n 里启用之前，它不会运行。
速览
- 用在
- 你自己电脑上的 n8n：最简单的情况，Ollama 就在同一台机器上
- n8n 服务器：把凭据指向运行 Ollama 的那台机器
- Docker：按工作流自带的说明，让 n8n 容器能访问宿主机的网络
- 公开的聊天页：先打开 Chat Trigger 的公开选项，再加上身份验证
平台
运行方式
触发
聊天消息
你在 n8n 的聊天窗口发一条消息时开始运行：
- 你输入的那条消息
动作
- 这条消息作为一条用户消息交给 Basic LLM Chain，没有系统提示，也没有记忆
- Ollama Chat Model 把它发到凭据里的 Ollama 地址，除非你另选模型，否则请求 llama3.2
- 模型写出回答，链把它作为文本交回
结果
模型的回答显示在同一个聊天窗口里
集成
开始之前要准备好这些。
Ollama
本地语言模型
在你自己的机器上运行聊天模型，并回答每一条消息。
需要一个 n8n 能访问到的 Ollama，且已拉取好模型
工作流检查
由 Mindket 于 2026年11月13日检查
- 步骤
- 2 个步骤，由聊天消息启动
- AI
- 1 个步骤调用 AI 模型：Chat LLM Chain
- 登录
- 需要登录：Ollama
- API 密钥
- 文件里没有留下 API 密钥
- 步骤类型
- Mindket 的检查器能读懂它全部 2 种步骤类型
关于
它是什么
这个 n8n 工作流在一个跑在你自己电脑上的模型前面放了一个聊天窗口。你在 n8n 的聊天里输入消息，Basic LLM Chain 把它交给 Ollama，模型的回答回到同一个窗口。文件里没有指定模型，所以除非你另选，Ollama 节点会请求 llama3.2。没有任何云端 AI 服务商参与。干活的是三个节点，旁边还有两张便签，分别讲流程和 Ollama 地址。
适合谁
已经在跑 Ollama、想在 n8n 里快速搭一个聊天前端的开发者、爱折腾的人和重视隐私的团队。如果你需要模型记住对话，或者要它调用工具，就别选它。按导入时的样子，每条消息都是单独回答的。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 在真实提示词上试一个新的本地模型，再决定要不要基于它开发 | 一位开发者拉下新模型，把同样五个测试问题发给它，对比回答。 |
| 咨询 | 重视隐私的员工 | 在客户笔记不出办公室的机器上整理和改写文字 | 一位顾问在办公室的服务器上整理会议记录。 |
| 教育 | 老师和学生 | 不用账号、不花钱地练习提示词的写法 | 一个班在课上用笔记本上的模型试不同的措辞。 |
| 家庭实验室 | 爱好者 | 在浏览器里和一台闲置机器上的模型聊天 | 一位爱好者让家里服务器上的模型解释一份日志。 |
你需要懂一点 n8n，并且有一个能用的 Ollama：导入文件、添加一个凭据、选一个模型。
用在哪里
任何能访问到你的 Ollama 的 n8n 都能运行它。聊天在 n8n 编辑器里打开，所以先想好谁会在哪里用。
- 你自己电脑上的 n8n：最简单的情况，Ollama 就在同一台机器上
- n8n 服务器：把凭据指向运行 Ollama 的那台机器
- Docker：按工作流自带的说明，让 n8n 容器能访问宿主机的网络
- 公开的聊天页：先打开 Chat Trigger 的公开选项，再加上身份验证
设置
点“下载”会把一个压缩包存到你的下载文件夹，里面有 workflow.json 和 Mindket 写的设置说明。先装好 Ollama 并拉取一个模型。
| 需要 | 说明 |
|---|---|
| n8n | n8n Cloud 或你自己的服务器，并且有一条通向 Ollama 的网络路径 |
| Ollama | 已安装并在运行，至少拉取了一个模型 |
| 模型 | 除非你另选，节点请求 llama3.2 |
- 在 n8n 里新建一个工作流，打开它的菜单，选 Import from File，选中
workflow.json。 - 打开
Ollama Chat Model，创建一个 Ollama 凭据。它的 Base URL 初始是http://localhost:11434。如果 Ollama 在另一台机器上，就改掉。 - 在同一个节点里，在 Model 中选一个你的模型。
- 如果 n8n 跑在 Docker 里，启动容器时要让它能访问宿主机的网络。工作流自带的说明建议用
--net=host选项。 - 保存，点画布底部的按钮打开聊天，发一条消息。
如何使用
打开聊天，发一条消息。模型写完后，回答出现在窗口里。每条消息都是单独回答的，所以模型需要知道的内容请一并贴进去。
| 要改的 | 在哪里改 |
|---|---|
| 模型 | Ollama Chat Model 里的 Model |
| 温度、上下文长度和保活时间 | 同一个节点里的 Add Option，初始是 0.7、2,048 个 token 和 5 分钟 |
| 系统消息 | Chat LLM Chain 里的 Chat Messages |
| 谁能聊天 | When chat message received 里的 Make Chat Publicly Available |
示例
一位开发者在笔记本上拉了 llama3.2，想看看它怎么处理一封客服邮件。他打开聊天，把邮件贴进去，上面加一行“用两句友好的话回复”。
链把这段文字作为一条用户消息发给 Ollama。回复以纯文本出现在窗口里。第二条消息到达模型时不带第一条，所以模型没法回头引用那封邮件。
新手与专家
新手：n8n 把工作流画成用线连起来的方框，每个方框是一个节点，只做一件事。这里一个聊天触发器连着一条链，模型节点从下面接进链里。发一条消息，再打开这次运行，看每个节点往下传了什么。
专家：链从连着的 Chat Trigger 读取 chatInput，没有记忆输入。
| 节点 | 做什么 | 要知道的 |
|---|---|---|
When chat message received | 没有设置任何选项的 Chat Trigger 1.1 | 不公开，最后一个节点结束时才回答 |
Chat LLM Chain | 没有设置任何参数的 Basic LLM Chain 1.4 | 把 chatInput 作为一条用户消息发出，没有系统消息 |
Ollama Chat Model | Ollama 聊天模型，版本 1 | 文件里没有指定模型，所以节点请求它的默认值 llama3.2 |
注意事项
一切都留在你自己的机器上，除非你把凭据指到别处。
- 记忆：没有接任何记忆，Basic LLM Chain 也没有记忆输入。想要对话，就换成带 Simple Memory 节点的 AI Agent
- 上下文：节点的上下文长度初始是 2,048 个 token。消息很长的话，在 Add Option 里调大
- 慢启动：Keep Alive 初始是 5 分钟，之后 Ollama 可以卸载模型，所以停顿后的第一个回答会慢一些
- 硬件：速度和质量取决于模型和你的机器。每条消息不收费
- Docker：容器看不到你电脑自己的
localhost，除非它共用宿主机的网络 - 不公开：在你打开 Make Chat Publicly Available 之前，聊天只能在 n8n 编辑器里打开
- 你的数据：消息只会发到凭据里的 Ollama 地址
- 凭据：JSON 里没有任何凭据
README 和文件
和跑在你自己 Ollama 上的模型聊天
一个带聊天窗口的 n8n 工作流。你输入一条消息，Basic LLM Chain 把它发给你自己机器上 Ollama 提供的模型，回答回到同一个窗口。没有任何云端 AI 服务商参与。
包里有什么
workflow.json：n8n 导出的工作流，五个节点，其中两个是便签（一个讲流程，一个讲 Ollama 地址）。里面没有任何凭据。README.md：这份设置说明，压缩包里的是英文版。
我们相对原来的副本改了什么
- Ollama Chat Model 原来关联着作者 n8n 里的一个凭据。这个关联已删掉，请添加你自己的。
- 别的都没改。文件里没有 Code 节点，也没有表达式。
开始之前
- 一个 n8n 实例，能通过网络访问到你的 Ollama，在你自己的电脑上或一台服务器上都行。
- 已安装并在运行的 Ollama，至少拉取了一个模型。文件里没有指定模型，所以节点用它自己的默认值
llama3.2。
设置
- 在 n8n 里新建一个工作流，打开它的菜单，选 Import from File，选中
workflow.json。 - 打开
Ollama Chat Model。在 Credential to connect with 下创建一个 Ollama 凭据。它的 Base URL 初始是http://localhost:11434，也就是 Ollama 监听的地址。如果 Ollama 在另一台机器上，就改掉。 - 如果 n8n 跑在 Docker 容器里，容器要能访问宿主机的网络。工作流自带的说明建议启动时加上
--net=host选项。 - 在同一个节点里，在 Model 中选一个你的模型。不选的话，节点向 Ollama 请求
llama3.2。 - 保存，点画布底部的按钮打开聊天，发一条消息。
一次运行的过程
When chat message received（Chat Trigger 1.1）接收你输入的消息。它的 Make Chat Publicly Available 开关是关着的，所以聊天只能在 n8n 编辑器里打开。Chat LLM Chain（Basic LLM Chain 1.4）从连着的 Chat Trigger 取提示词，也就是它的chatInput字段，把它作为一条用户消息发出。它没有系统消息，也没有记忆。Ollama Chat Model把请求送到凭据里的 Ollama 地址。模型的回答以text返回，聊天窗口把它显示出来。
改变风格
- 模型：
Ollama Chat Model里的 Model。在那里用 Add Option 可以改温度（现在是 0.7）、Context Length（2,048 个 token）和 Keep Alive（5 分钟）。 - 给模型一个口吻：打开
Chat LLM Chain，在 Chat Messages 下加一条 System 消息。 - 记忆：Basic LLM Chain 没有记忆输入。想让它记住之前的消息，就换成 AI Agent，再接一个 Simple Memory 节点。
- 谁能聊天：在 Chat Trigger 里打开 Make Chat Publicly Available，分享地址之前再加上身份验证。
注意事项
- 每条消息都是单独回答的。第二条消息和第一条之间没有任何联系。
- 节点的上下文长度初始是 2,048 个 token。消息很长的话，在 Add Option 里调大。
- 节点的 Keep Alive 是 5 分钟：之后 Ollama 可以卸载模型，所以停顿后的第一个回答会慢一些。
- 速度和质量取决于你的模型和你的硬件。每条消息不收费。
- 你的消息只会发到凭据里的 Ollama 地址。除非你把它指到一台服务器上，否则消息不会离开你的机器。
NOTICE.md 614 B README.md 3 KB workflow.json 3 KB
更新内容
评价
Mindket 的更多商品
查看 Mindket 的全部商品DeepSeek-V4.1-Flash-1017 EXL3 2.9 bpw
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017，这是一份 196 GiB 的副本，适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
新上架
MusicGen Small
facebook · 工具包
根据文字描述或音频提示生成短音乐片段，是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
新上架
开发类的相似商品
查看开发类的全部商品Lexnet
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络，为 C 源代码的每个字符打上语法高亮标签，通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
新上架
FLUX.2 Klein LoRA Studio
prithivMLmods · 工具包
在浏览器或你自己的电脑上，用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
新上架
anaksor-ocr
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字，用一个检测器找文本行，再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。
新上架