在本地 Ollama 模型上聊天，回答是 JSON

在本地 Ollama 模型上聊天，回答是 JSON

一个跑在你自己模型上的 n8n 聊天。每条消息都发给 Ollama 服务器上的 Llama 3.2，并要求模型把回答写成含 Prompt 和 Response 的 JSON 对象。聊天里显示你的提问、模型的回答和原始 JSON。

包里有什么

• workflow.json：n8n 导出的工作流，九个节点。其中三个是便签。里面没有任何凭据。
• README.md：这份设置说明，压缩包里的是英文版。

我们相对原来的副本改了什么

• 指向作者 n8n 里某个 Ollama 凭据的关联已删掉，请选你自己的。
• 原来描述每个节点的八张长便签，换成了三张短的。
• 别的都没改。提示、节点和连线都和原来的副本一样。

开始之前

• 一个 n8n 实例，n8n Cloud 或自己的服务器都行。
• 一台 n8n 能访问的 Ollama 服务器，并已拉取模型：ollama pull llama3.2。n8n Cloud 只能用能从互联网访问到的 Ollama 服务器。

设置

1. 在 n8n 里新建一个工作流，打开它的菜单，选 Import from File，选中 workflow.json。
2. 添加一个 Ollama 凭据。它的 Base URL 是 http://localhost:11434，除非你改过 OLLAMA_HOST。如果 n8n 跑在 Docker 里，localhost 指的是容器自己：把 n8n 和 Ollama 放进同一个 Docker 网络，用 Ollama 容器的名字，比如 http://ollama:11434。
3. 在 Ollama Model 里选中这个凭据。它的模型是 llama3.2:latest，请运行 ollama list，确认名字对得上。
4. 保存，打开画布里的聊天，问一个问题。

一次请求的过程

1. When chat message received 把你的消息作为 chatInput 传下去。
2. Basic LLM Chain 拼出它的提示：给出问题，并要求回答成含 Prompt 和 Response 字段的 JSON 对象，不要前言。Ollama Model 写出回答。
3. JSON to Object 把回答的文字读成一个对象，存进名为 response 的字段。
4. Structured Response 在名为 text 的字段里写出聊天的回复：你的提问、模型的回答，以及“This is the JSON object”这一行下面链返回的原始文字。
5. 如果这条链失败，它的第二个输出会接到 Error Response，后者回复 “There was an error.”

想换个结果，改这里

• 回答的形状：Basic LLM Chain 里的提示。如果你给它加了字段，要在 Structured Response 里读取它们。
• 模型：Ollama Model，可以换成你拉取过的任何模型。
• 失败时那一行：Error Response。

值得知道的事

• llama3.2:latest 是 3B 模型，下载 2.0 GB（Ollama 的模型库页面，2026 年 11 月 12 日读取）。小模型不一定总能守住格式。
• JSON to Object 没有自己的错误路径。回答不是有效的 JSON 时，比如被包在代码块里，运行会在这个节点停下，Error Response 不会回答。
• 这个聊天没有记忆。每条消息都单独回答。
• 聊天触发器的公开页面默认关闭，直到你在触发器里打开。除非你想让陌生人用你的 Ollama 服务器，否则保持关闭。
• 你的消息只发到凭据里写的那台 Ollama 服务器。