Awesome Self-Hosted AI

Awesome Self-Hosted AI

列出 309 个可以在你自己的硬件或服务器上运行的开源 AI 项目，按 LLM 运行时、智能体、RAG 和语音等板块分组，每周做一次健康检查。

由 glincker 在 GitHub 上制作。这些说明是 Mindket 根据其 README 写的，项目自己的文件和许可证在它的仓库里。

简介

它是什么：Awesome Self-Hosted AI 是一份精选清单，收录面向你自己的机器的开源 AI 项目。它们运行在你自己掌控的硬件或服务器上。它收录了 309 个项目，按 LLM 运行时、智能体、RAG、语音和语音智能体等板块分组。每周都有一个自动任务通过 GitHub API 查一遍每个项目。

适合谁：它适合想自己托管 AI 工具、又需要一个地方对比选项的人。开发者、小型 IT 团队和研究小组都能在这里找到起点。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 想用本地 AI 工具的开发者 | 找一个可以自己运行的编码助手或 LLM 运行时 | 翻看 Coding Assistants 板块
IT 与运维 | 自己托管工具的团队 | 对比聊天界面、模型网关和可观测性工具 | 为团队选一个自托管的聊天应用
数据与研究 | 研究和数据团队 | 翻看 RAG、向量数据库和评测类项目 | 挑一个向量数据库来试

如果你想要一个现成的应用，可以跳过它，因为这是一份其他项目的目录，不是安装程序。

用在哪里：

• GitHub：这份清单是一个 README，每个项目都有一个指向它自己仓库的链接
• 你自己的硬件或服务器：清单里的项目就在那里运行
• Docker：一些条目，比如 Sim，可以用它来自托管
• 清单旁边有一份实时健康表，放在名为 LIVE.md 的文件里

用例 | 适合谁 | 你会得到什么
找一个智能体框架 | 开发者 | 比如 CrewAI、LangGraph 和 Pydantic AI 这样的条目，各配一句话说明它做什么
选一个聊天前端 | 个人和团队 | 比如 AnythingLLM、Chatbox 和 Cherry Studio 这样的条目
查看项目的健康状况 | 正在选型的人 | 实时健康表里每个项目的星标、最近一次推送和许可证

如何使用：打开与你需求对应的板块，读一读一句话条目。点进链接，就能到项目自己的仓库，看它的安装步骤。用实时健康表来对比项目，也可以到停止维护的文件里找那些已经被移出的项目。

工具 | 作用
LIVE.md | 实时健康表，列出每个项目的星标、最近一次推送和许可证
UNMAINTAINED.md | 项目被归档、被删除或一年多没有动静时会被移到这里

示例：假设你想要一个可以自己运行的智能体框架。打开 Agents and Automation 板块，里面有 27 个条目。CrewAI 在你的 Python 环境里组织按角色分工的智能体团队。LangGraph 把有状态的智能体工作流搭成图。Pydantic AI 是一个围绕类型安全搭建的 Python 智能体框架。然后打开健康表对比它们。

新手与专家：如果你是新手，先打开 Chat Interfaces 板块。它有 11 个条目，包括 AnythingLLM 和 Chatbox，每个都是一段简短描述加一个指向项目的链接。

如果你熟悉这个领域，让这份清单与众不同的是它的维护。每周有一个任务通过 GitHub API 检查每个条目。被归档、被删除或闲置超过一年的条目会被送进 UNMAINTAINED.md，主清单因此保持最新。Rising 和 Source-Available 是两个单独的板块，各有 25 个条目。

项目按板块列出
每周通过 GitHub API 检查
活跃的项目留在清单里
过期的项目移到 UNMAINTAINED.md

注意事项：

• 它是一份清单，不是安装程序，所以每个项目有自己的仓库、安装方式和许可证
• 清单在 2026-11-02 刷新时，309 个项目中有 308 个在 90 天内有最近的动静，没有一个被标为停止维护
• 每个条目只是简短的摘要，所以依赖某个项目之前，请先读它自己的仓库

Title: 几个较大板块里的项目数
LLM 运行时与推理: 38 个项目
智能体与自动化: 27 个项目
编码助手: 25 个项目
RAG 与向量数据库: 24 个项目
可观测性与评测: 20 个项目
MCP 服务器与网关: 19 个项目

GitHub 上的数据（2026年11月7日）

• 星标：113
• 复刻：15
• 未关闭的议题和拉取请求：3
• 语言：JavaScript
• 许可证：CC0-1.0
• 话题：ai-agents, awesome, awesome-list, homelab, llm, local-ai, local-llm, mcp-server, ollama, open-source, privacy, rag

链接

• 代码：https://github.com/glincker/awesome-selfhosted-ai
• 网站：https://github.com/glincker/awesome-selfhosted-ai/blob/main/LIVE.md
• 发布版本：https://github.com/glincker/awesome-selfhosted-ai/releases
• 议题：https://github.com/glincker/awesome-selfhosted-ai/issues
• 星标历史：https://www.star-history.com/#glincker/awesome-selfhosted-ai&Date

获取代码

git clone https://github.com/glincker/awesome-selfhosted-ai.git

然后按它的 README 完成设置。这个工具包里没有会自己运行的东西。