DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
一个用聊天框驱动的 n8n 工作流。每条消息都发给你 LM Studio 服务器上的每个模型,Google 表格记录每条回复的耗时和可读性得分。
给每个 LM Studio 模型发提示词并记录耗时和可读性 是一款 n8n 工作流,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,或复制它的 JSON,再导入 n8n 画布。在 n8n 里启用之前,它不会运行。
聊天消息
你在 n8n 聊天框里发出一条消息时开始运行。先设好:
一张表,列出每个模型对同一个提示词的回复,以及它的耗时和可读性数字
开始之前要准备好这些。
本地模型
托管这些模型,并通过本地服务器回答每个提示词。
需要一个运行中的 LM Studio 服务器
结果表
接收每个模型一行的时间、回复和得分。
需要一个 Google Sheets OAuth2 凭据
由 Mindket 于 2026年11月13日检查
这个 n8n 工作流用来比较你 LM Studio 服务器上的本地模型。你在聊天框里输入一个提示词。工作流先问服务器列出了哪些模型,再把同一个提示词依次发给每一个,并给每次回复计时。然后它给每条回复的易读程度打分,统计字数和句数,并记下模型回答用了多少秒。每个模型一行,写进一张 Google 表格,模型就并排摆在一起。可以把它看作本地模型的试验台。整个流程由十二个节点完成,旁边还有八张便签。
运行多个本地模型、想让它们全都回答同一个提示词、并在每个回答旁边看到耗时和可读性数字的开发者和爱好者。给某项任务选模型的团队也适合,他们想让选择有自己提示词上的耗时和得分作依据,而不是靠公开的排行榜。如果你只用云端模型,就别选它,因为这个工作流只和一台 LM Studio 服务器对话。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 本地 AI 应用的开发者 | 挑出最快、回答又清楚的模型 | 一位开发者发出一个客服问题,对比六个模型的秒数和可读性。 |
| 研究 | 机器学习研究者 | 把同一个提示词在多个模型上的回复收进一张表 | 一位研究者为写论文保留一张回复和速度的表格。 |
| 教育 | AI 课程的老师 | 向学生展示模型在同一个提示词上的差别 | 老师在课堂上跑一个提示词,并把表格投在屏幕上。 |
| IT | 运行私有模型的小团队 | 不把数据发出去就为某项任务选好模型 | 一个团队在办公室能托管的模型上测试自己的提示词。 |
你需要懂一些 n8n,还要有一台运行中的 LM Studio 服务器,想要结果表的话再加一张 Google 表格。
任何能访问运行 LM Studio 那台机器的 n8n 都能运行它。在 n8n Cloud 上,服务器必须能从互联网访问到。私有地址行不通。结果会出现在聊天运行里和你的表格里。
点“下载”会把一个压缩包存到你的下载文件夹,里面有 workflow.json 和 Mindket 写的设置说明。导入文件,填上你的服务器地址,想要结果表的话再接一张表格。
| 需要 | 说明 |
|---|---|
| n8n | n8n Cloud 或你自己的服务器 |
| LM Studio | 它的本地服务器已运行,并带着你想比较的模型 |
| OpenAI 凭据 | 任意一个密钥值,因为聊天节点要求有一个 |
| 一个 Sheets 凭据和一张带表头行的表格,如果保留结果表 |
workflow.json。Get Models 和 Run model with dynamic input 里,把 <YOUR_LM_STUDIO_HOST> 换成你的服务器地址。Run model with dynamic input 里选中它。Save Results to Google Sheets 里选好你的凭据,替换 <YOUR_SPREADSHEET_ID>,并检查工作表的名称。想跳过表格就删掉这个节点。在聊天框里发一个提示词。工作流把它跑过每一个模型,并为每个模型加一行。等最后一行出现,然后在表格里读这些行,按耗时或得分排序。
| 要改的 | 在哪里改 |
|---|---|
| 系统提示词 | Add System Prompt |
| 温度、top P 和存在惩罚 | Run model with dynamic input |
| 哪些模型会运行 | 在 Extract model IDs 后面加一个 Filter 节点 |
| 衡量什么 | Analyze LLM Response Metrics 里的代码 |
| 结果放哪里 | Save Results to Google Sheets |
一位开发者在 LM Studio 里有五个模型,想挑一个回答又短又通俗的。她输入一个关于重置密码的问题并发送。没有别的事要做。
工作流依次询问每个模型,在表格里加五行。每一行有模型的名称、它用了多少秒、它的回复、一个可读性得分,以及字数和句数。她按秒数给表格排序,然后读最快的两条回复。分数只能当作粗略的参考,因为它们是一个简单公式算出来的,不是人评出来的。
新手:n8n 把工作流画成用线连起来的方框,每个方框是一个节点,只做一件事。LM Studio 在你自己的电脑上运行模型,并能通过一个本地网址作答。这个工作流为每个模型调用一次这个网址。
专家:聊天模型节点是 OpenAI 那一种,用 base URL 指向你的服务器,它的模型 id 来自当前这一项,所以一个节点就能服务所有模型。
| 节点 | 做什么 | 要知道的 |
|---|---|---|
Get Models | 向服务器要模型列表 | 路径是 /v1/models,列表里可能有所有已下载的模型 |
Run model with dynamic input | 链背后的聊天模型,从当前项读取模型 id | 温度 1、top P 1、存在惩罚 0,超时 250 秒 |
Get timeDifference | 算出开始和结束时间之间的秒数 | Mindket 的副本把单位设成秒,而 n8n 的默认值是天 |
Analyze LLM Response Metrics | 统计字数和句数,并给回复打分 | 分数用的是 Flesch 阅读易度公式,音节数按元音组估算 |
模型列表一长,运行就会很久。耗时和得分都是粗略的数字。
Get Models 上加一个 Bearer 请求头一个用聊天框驱动的 n8n 工作流。你发出的每条消息,都会发给你的 LM Studio 服务器列出的每一个模型。工作流给每条回复计时,给它的易读程度打分,并为每个模型往 Google 表格里加一行。最后你得到一张在同一个提示词上比较各模型的表格。
workflow.json:n8n 导出的工作流,12 个节点和 8 张便签。里面没有任何凭据。README.md:这份设置说明,压缩包里的是英文版。Get Models 和 Run model with dynamic input 现在读 http://<YOUR_LM_STUDIO_HOST>:1234/v1。Extract Model IDsto Run Separately 现在叫 Extract model IDs,Run Model with Dunamic Inputs 现在叫 Run model with dynamic input。凡是引用过它们的表达式都已跟着改。Get timeDifference 原来没指定单位就让 n8n 算两个时间之间的差,而 n8n 源码里的默认单位是天,所以每次回复都会记成 0。现在它要求以秒为单位,Prepare Data for Analysis 保存这个数字。<YOUR_SPREADSHEET_ID>。表格的表头行写在一张便签里。workflow.json。Get Models 和 Run model with dynamic input 里,把 <YOUR_LM_STUDIO_HOST> 换成运行 LM Studio 服务器那台机器的地址。文件里的端口是 1234。Run model with dynamic input 里选中它。这个节点需要一个密钥值。如果你的 LM Studio 服务器不要求令牌,填任何文字都行。Prompt:你发的消息Time Sent:请求发出的时间Time Received:回复收到的时间Total Time Seconds:两者之间的秒数Model:模型的 idResponse:回复的文字Readability Score:Flesch 阅读易度估算值Average Word Length:每个词的字母数Word Count:回复里的字数Sentence Count:回复里的句数Average Sentence Length:每句的词数Save Results to Google Sheets 里,选好你的 Google Sheets 凭据,把 <YOUR_SPREADSHEET_ID> 换成你电子表格的 ID,并确认工作表叫 Sheet1。想跳过表格就删掉这个节点。When chat message received 把你的消息当作 chatInput 接收。Get Models 向服务器的 /v1/models 接口要列表。Extract model IDs 把列表拆成每个模型一项。Capture Start Time 记下时间,Add System Prompt 加上系统提示词,内容是 Ensure that messages are concise and to the point readable by a 5th grader.LLM Response Analysis 把你的消息和这条系统提示词发给模型。Run model with dynamic input 是它背后的聊天模型,并从当前项取模型 id。它的选项是温度 1、top P 1、存在惩罚 0,超时 250 秒。Capture End Time 记下回复之后的时间,Get timeDifference 算出两者之间的秒数。Prepare Data for Analysis 汇集提示词、模型、回复、两个时间和秒数。Analyze LLM Response Metrics 统计字数和句数,算出平均词长和平均句长,并算出一个可读性得分。这个得分用的是 Flesch 阅读易度公式,音节数按元音组估算。Save Results to Google Sheets 为每个模型追加一行。Add System Prompt 里的文字。Run model with dynamic input,里面有温度、top P 和存在惩罚。Extract model IDs 后面加一个 Filter 节点,去掉你不想测试的。Analyze LLM Response Metrics 里的代码。Save Results to Google Sheets 换成别的存储节点,或者删掉它,在运行结果里读。Run model with dynamic input 会发送你凭据里的密钥,而你得自己在 Get Models 上加一个 Bearer 请求头。NOTICE.md 631 B README.md 6 KB workflow.json 21 KB
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。