DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。

LangGenius 的开源大模型应用开发平台:可视化工作流、RAG、模型管理,以及带沙箱的智能体。它的 difyctl 工具和技能让 Claude Code、Codex、Cursor 和其他智能体来构建和运行这些应用。
Dify 是一款 GitHub 上的开源项目,属于开发类,由 Mindket 上架。可免费获取。当前为第 2 版,最近更新于 。按它的 README 从 GitHub 安装。Mindket 的设置说明可在你的 Mindket 账户获取,以 zip 压缩包下载。
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env
用在哪里里还有 2 个
Dify 是 LangGenius 做的开源大模型应用开发平台。在同一块可视化画布上,你把模型调用、知识检索、代码和分支连成一个 Workflow 或 Chatflow。同一个工作区里还有模型管理、RAG 流水线、在自己沙箱里工作的智能体,以及用来观察生产环境里应用运行情况的日志。每个应用都带有 API。这个条目是 Mindket 的安装说明,讲怎么自己运行 Dify,以及怎么让编程智能体通过 Dify 的命令行工具来构建和运行你的应用。
想在可视化画布上构建智能体和 RAG 应用,而不想一块块手工拼接的开发者和小团队。需要把平台部署在自己服务器上的团队也适合,因为文档说 Dify 能在任何能运行 Docker 的地方运行。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 客户支持 | 支持负责人和开发者 | 构建一个能查资料并回答问题的聊天助手 | 一位支持负责人构建一个能查资料并回答问题的 Agent,再把它发布成网页应用。 |
| 报表和数据工作 | 分析师和开发者 | 手动或按计划,把 Workflow 从头到尾运行一遍 | 一位分析师构建一个生成报表的 Workflow,再加一个定时 Trigger 来运行它。 |
| 研究 | 研究人员和写作者 | 交给 Agent 一项任务:收集资料并做总结 | 一位研究人员和一个 Agent 对话,由它收集资料并写出总结。 |
| 开发工具 | 使用编程智能体的开发者 | 让智能体通过 difyctl 构建和运行应用,或者把应用当作 MCP 工具来调用 | 一位开发者把应用发布成 MCP 服务器,Cursor 就把它列为一个工具。 |
如果你打算把它作为共享服务运行给多个客户,可以不用它。许可证禁止多租户部署,除非 LangGenius 书面授权。
Dify 是一个网页应用,所以你在浏览器里构建,用 LangGenius 托管的 Cloud,或者用你自己运行的服务器。编程智能体通过一个叫 difyctl 的命令行工具使用你的应用。
点“获取”会把一个装有 Mindket 安装说明的 zip 压缩包存进你的下载文件夹,里面按 LangGenius 的 README 和文档列出了每条途径的步骤。自托管的主要途径是 Docker Compose。
| 需要 | 说明 |
|---|---|
| 一台机器 | 至少 2 个 CPU 核心和 4 GiB 内存 |
| Docker | 运行着守护进程的 Docker,以及 Docker Compose v2.35.0 或更高版本 |
| macOS | 10.14 或更高版本,Docker Desktop,虚拟机至少 2 个虚拟 CPU 和 8 GiB 内存 |
| Windows | 启用 WSL 2 的 Docker Desktop,代码和数据放在 Linux 文件系统里 |
| OpenSSL | 用来生成智能体沙箱的令牌 |
| git、curl 和 jq | 文档页的克隆命令三个都要用 |
| 模型提供方 | 至少一个,在控制台里设置。自托管时你要添加它的 API 密钥 |
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env openssl rand -hex 32
docker compose up -d docker compose ps --all
一次性的 init_permissions 服务会以退出码 0 结束,这是正常的。想让编程智能体使用你的应用,就安装 difyctl 并登录,再把技能交给你的智能体。自托管的服务器必须运行 Dify 1.18.0 或更高版本,并把 OPENAPI_ENABLED 和 ENABLE_OAUTH_BEARER 都设成 true。下面的安装器适用于 macOS 和 Linux(x64 和 arm64),会校验下载文件的校验和,并安装到 ~/.local/bin/difyctl。
curl -fsSL https://raw.githubusercontent.com/langgenius/dify/main/cli/scripts/install-cli.sh | sh difyctl login --server https://dify.example.com difyctl install skills ~/.claude/skills
在 Windows 上(仅 x64),安装器是一行 PowerShell 命令。
irm https://raw.githubusercontent.com/langgenius/dify/main/cli/scripts/install.ps1 | iex
Codex、Cursor、Gemini CLI、GitHub Copilot、OpenCode 和大多数其他智能体,技能要放在 ~/.agents/skills。其他智能体请在它自己的文档里查技能文件夹。
difyctl install skills ~/.agents/skills
在控制台里,你构建 Workflow、Chatflow 或 Agent。Workflow 和 Chatflow 共用一块画布,你在上面连接节点,每个节点做一步,比如调用模型、检索知识、运行代码,或者按条件分支。
| 应用 | 怎么运行 | 起点 | 终点 |
|---|---|---|---|
| Workflow | 从头到尾运行一次:输入经过整个流程,返回一个结果 | User Input 或 Trigger | Output 节点,可选 |
| Chatflow | 用户聊天,每条消息都先运行这个流程,再生成回复 | User Input | Answer 节点,必须有 |
Agent 的方式不同。你设置它一次,有两种用法:单独作为聊天应用,或者作为 workflow 里的一个步骤。它在自己的沙箱里工作,在里面运行命令、读写文件。Agent 还在 beta 阶段,在 Docker Compose 上默认开启。
在终端里,你可以列出自己的应用,也可以把一项工作描述给 help,它会列出匹配的命令。只有开启了 Service API 访问的应用才会被列出。
difyctl get console_app difyctl help publish app
你在自己的笔记本上自托管了 Dify,想让 Claude Code 看到你的应用。你对自己的服务器登录。传入你在浏览器里打开 Dify 的地址。本地 http:// 服务器要加 --insecure,它会一直作用到你不带它重新登录为止,所以只在本地开发时用。服务器要先把 OPENAPI_ENABLED 和 ENABLE_OAUTH_BEARER 设成 true。
difyctl login --server https://dify.example.com difyctl get console_app
终端会打印一个代码。你打开 Authorize difyctl 页面,在 15 分钟内输入这个代码并点 Continue,再核对账户和工作区,点 Authorize。接着列出的是开启了 Service API 访问的应用。装好技能之后,你就可以让智能体去构建、运行或更新它们。
新手:模型提供方是指提供 AI 模型、让你的应用来调用的公司或服务器。每个 Dify 应用至少需要一个模型提供方。自托管时你添加提供方的密钥,费用记在你在该提供方的账户上。在 Dify Cloud 上,文档说可以用你的 AI 额度,也可以接入你自己的提供方账户和密钥。画布上的大部分工作是拖拽、连接和配置,代码只在你的逻辑需要时才写。如果你不想运行 Docker,Dify Cloud 可以省掉安装。
专家:COMPOSE_PROFILES 选择内置的数据库、向量库和 WebSocket API,默认是 weaviate,postgresql,collaboration。设置 DB_TYPE 或 VECTOR_STORE,并配上对应的 profile,就能换掉它们,新的数据库不会迁移已有数据。
| 设置 | 放在哪里 |
|---|---|
| COMPOSE_PROFILES、发布的端口、卷路径 | 根目录的 .env,因为服务的 env 文件改不了它们 |
| 某个服务的设置,比如 nginx 的上传限制 | 复制 envs/ 里它的 .defaults 文件,通常存成 .env |
| PLUGIN_DAEMON_KEY 和 PLUGIN_DIFY_INNER_API_KEY | 根目录的 .env,所有服务共用同一个值 |
根目录的 .env 优先于服务的 .env,服务的 .env 又优先于跟踪的默认值。改完配置后运行 docker compose up -d,因为 docker compose restart 不会重新加载环境变量。只在某个服务的文件里改这两个插件密钥,可能导致 HTTP 401 响应。放在 Cloudflare 或其他代理后面时,如果不告诉 nginx 该信任哪个代理,所有人可能共用同一个频率限制。从源代码运行的话,API 需要 uv 并在 5001 端口运行,web 服务需要 Node.js 24.22.1 或更高版本和 PNPM 12。
自托管时,下面这些路径会连到你服务器以外的地方。
这个工具包里只有安装说明,由 Mindket 编写。Dify 本身、它的 Docker 镜像和命令行工具来自 LangGenius 自己的仓库:https://github.com/langgenius/dify
这些说明不是 LangGenius 写的,也没有得到它的认可。它的 README 把 Dify 称为 "an open-source LLM app development platform",意思是一个开源的大模型应用开发平台。文档从 https://docs.dify.ai 开始。
这些说明来自 README 和每个文件里列出的文档页面。它们没有对照源代码检查过,Mindket 也没有运行这些命令。
Dify 使用自己的许可证,即 Dify Open Source License。GitHub 把它列为 "Other",没有 SPDX 标识。LICENSE 文件(https://github.com/langgenius/dify/blob/HEAD/LICENSE)说 Dify "is licensed under a modified version of the Apache License 2.0, with the following additional conditions",意思是在 Apache License 2.0 的修改版下授权,并附有额外条件。
web/ 目录或 "web" 镜像。这些说明不解释许可证。如果你打算为其他客户运行 Dify,或者发布修改过的版本,请阅读这个文件,并去问 LangGenius。
Dify 是一个网页平台,背后有服务器。README 和文档给出了下面这些运行或使用它的方式:
Compose 这条路要先有源代码,所以先克隆。Docker Compose 文档页给出下面这一行,它通过 GitHub API 找到最新的发布标签。需要 git、curl 和 jq。
git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git
然后 README 在仓库根目录运行这些命令:
cd docker
cp .env.example .env
openssl rand -hex 32
打开 .env,把 DIFY_AGENT_LOCAL_SANDBOX_AUTH_TOKEN 设成生成的值。COMPOSE_PROFILES 保持默认值。然后在同一个 docker 目录里:
docker compose up -d
docker compose ps --all
打开 http://localhost/install 完成首次设置。一次性的 init_permissions 服务按预期会以退出码 0 结束。
来源见 https://github.com/langgenius/dify/blob/HEAD/README.md 和 https://docs.dify.ai/en/self-host/deploy/quick-start/docker-compose
每个文件都写明了它的步骤和命令出自哪个页面。README 和文档页面不一致的地方,文件里也会说明。
Compose 文档页说,升级步骤因版本而异,所以请阅读 Releases 页面上目标版本的升级指南。升级之后,把每个 .env.example 和对应的 .env 比较一下,看有没有新增或变化的变量。FAQ 页面说升级前要先备份,并给出下面这一行来复制 dify 文件夹:
cp -r dify "dify.bak.$(date +%Y%m%d%H%M%S)"
来源见 https://docs.dify.ai/en/self-host/deploy/quick-start/docker-compose 和 https://docs.dify.ai/en/self-host/deploy/quick-start/faqs
这里用到的页面没有给出卸载步骤。
模型提供方页面警告说,API 密钥会给出整个工作区使用模型的权限,并向密钥背后的提供方账户计费。来源见 https://docs.dify.ai/en/self-host/use-dify/workspace/model-providers
环境变量页面列出了自托管 Dify 的这些对外连接。来源见 https://docs.dify.ai/en/self-host/deploy/configuration/environments
CHECK_UPDATE_URL 默认是 https://updates.dify.ai。控制台用它检查新版本,设为空就关掉这项检查。MARKETPLACE_ENABLED 默认是 true,MARKETPLACE_API_URL 默认是 https://marketplace.dify.ai。插件从这里来,FORCE_VERIFYING_SIGNATURE 默认是 true,所以未签名的插件包会被拒绝。NEXT_TELEMETRY_DISABLED 默认是 0。页面说,除非你把它设成 1,否则 Compose 部署会让 Next.js 的匿名遥测保持开启。WEAVIATE_DISABLE_TELEMETRY 默认是 false,所以除非设成 true,Weaviate 的遥测保持开启。ENABLE_CHECK_UPGRADABLE_PLUGIN_TASK 默认是 true:每 15 分钟检查一次市场里有没有更新版本的插件。API_SENTRY_DSN 为空就会关闭后端的 Sentry。OpenTelemetry 在 ENABLE_OTEL 设为 true 之前保持关闭。README.md 8 KB setup/claude-code.md 3 KB setup/cloud-and-other-deployments.md 4 KB setup/codex-cursor-and-other-agents.md 2 KB setup/difyctl.md 11 KB setup/docker-compose.md 11 KB setup/local-source-code.md 6 KB setup/mcp-server.md 2 KB setup/models-and-first-app.md 6 KB
Updated by Mindket to the current version of this kit.
同一分类里与本产品共有主题最多的已上架 GitHub 项目。
| 产品 | 星标 | 活跃度 | 语言 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Dify 本页 | 160,579 | — | — | — | — |
| Sim 智能体工作流工作区共有 agentic-workflow · low-code · automation | 30,071 | — | — | Apache-2.0 | — |
| Ruflo 智能体协调层共有 agentic-framework · agentic-workflow · agentic-ai | 81,187 | — | — | MIT | — |
| OpenHands Agent Canvas 编程智能体控制台共有 gpt · agent · llm | 92,839 | — | — | MIT | — |
| ADK for Go 智能体开发套件共有 genai · llm · ai | 8,945 | 活跃 | Go | Apache-2.0 | |
| CopilotKit 智能体前端技术栈共有 agent · agentic-ai · ai | 38,557 | 活跃 | TypeScript | MIT |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
simstudioai · 工具包
Sim Studio 的工作区,用来构建、部署和管理 AI 智能体与工作流,核心采用 Apache 2.0 许可证。可以用 Sim Cloud,用 Docker 自己托管,或者用 Mac 应用。说明涵盖 sim-setup、本地模型,以及通过 MCP 连接 Claude Code、Codex 或 Cursor。
ruvnet · 工具包
ruvnet 做的免费 MIT 许可证协调层,给 Claude Code 和 Codex 加上智能体群、共享记忆、控制台和 MCP 服务器,以前叫 Claude Flow。安装说明涵盖 Claude Code、Codex、Cursor、Windsurf、VS Code、JetBrains、Claude Desktop…
NousResearch · 工具包
Nous Research 做的开源智能体,可以在终端、桌面应用或聊天软件里使用。它有记忆,会从经验里写出技能,能跑定时任务,用哪家模型提供商由你选。