AI 智能体技能、规则与提示词工具包

Thinklite-27B-GGUF

Sparset · 工具包

Thinklite-27B 的 4 位 GGUF 版本，适用于 llama.cpp，每次回答比基础模型用更少的推理，适合在本地运行 27B 文本模型的人。

BotPsy-0.8B

qvac · 工具包

一个专为函数调用和智能体工作流设计的 0.8B 小模型，基于 Qwen3.5-0.8B，轻到可以在设备上运行，适合想要本地使用工具的助手的开发者。

Raon-1 nano (MLX)

KRAFTON · 工具包

提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重，让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

gemma-4-12B

google · 工具包

Google 的 Gemma 4 12B Unified 模型，是能读文字、图片、音频和视频并输出文字的开放模型，上下文 256K，不需要单独的编码器。适合运行本地 AI 的开发者。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

MOSS-Image-SFT-8-steps-dmd

lodestones · 工具包

把 MOSS-Image-SFT 的出图步数减到 8 步且不用 CFG，以 ComfyUI 的 LoRA 文件提供。这是一个仍在进行中的蒸馏，适合在本地生成图像的人。

Cactus runtime

Cactus-Compute · 工具包

提供预编译的运行时二进制文件，在手机、笔记本、服务器和浏览器上本地运行文字、语音和视觉模型。适合在应用里发布设备端 AI 的开发者。

Qwen3.8-27B Turbo Brilliance NEO MAX MTP GGUF

DavidAU · 工具包

以 GGUF 形式运行 Qwen3.8-27B，带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。

Inflect Mini v3

owensong · 工具包

在你自己的电脑上把英文文字转成语音，有六个预设声音，可在 CPU 或 CUDA 上运行。适合想要小型本地文字转语音模型的开发者和创作者。

Muse Glimmer 30B

meta-models · 工具包

读取文字和图片，在本地机器上完成工具调用、多步推理等智能体任务，是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Mach Boom

SyzygyResearch · 工具包

用 Gradium 的 Phonon 31m 模型的 3.5 位版本，在单个 CPU 核心上把英文文字变成语音，速度比实时快好几倍，适合需要小巧本地语音输出的开发者。

DeepSeek-V4.1-Flash-1017-GGUF

unsloth · 工具包

Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，这是一个巨大的图文模型，可在 128 GB 或更多内存的机器上本地运行，适合自己运行大型开放模型的人。

Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的偏编程 GGUF 版本，去掉了一半专家，把 BF16 的 354 GB 缩到 58.4 GB，同时保留图片输入，适合有大机器、想在本地用编程模型的人。

Qwen3.8-27B-DSpine-b16-GGUF

aj9o9 · 工具包

一个 GGUF 草稿模型，通过推测解码在 llama.cpp 里加速 Qwen3.8-27B，在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token，适合在本地运行 Qwen3.8-27B 的人。

Qwen3.8-Flash-Next-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的 GGUF 版本，有四种大小，每个张量用各自的精度量化，并带有支持图片输入的视觉投影文件，适合在本地运行大型混合专家模型的人。

Qwen3.8-27B-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 Qwen3.8-27B GGUF 版本，共四种大小，每个张量用各自的精度量化，并带有处理图片的视觉投影文件。适合在 llama.cpp、Ollama 或 LM Studio 里本地运行模型的人。

qwen-concept-27b

ConceptCountry · 工具包

对 Qwen3.8-27B 的九个权重矩阵做了权重空间编程式的编辑，无需训练，所以它用更少的 token 思考。这是面向研究人员和本地模型用户的实验性版本。

Meditor WebGPU Chat

Yo-Purple · 工具包

一个聊天页面，通过 WebGPU 在你的浏览器里用你自己的 GPU 运行 Meditor 语言模型，带本地缓存和实时速度显示。适合想要不用云 GPU 的私密聊天的人。

Pluto 124M Chat

xxparthparekhxx · 工具包

一个完全在浏览器里运行的小型聊天模型，通过 onnxruntime-web，用 WebGPU 或 WebAssembly，没有服务器参与推理。适合想要私密、本地聊天演示的人。

YuE2-3B Music Generator

x1205x62108 · 工具包

用 YuE2-3B 模型根据风格提示词和歌词生成歌曲和翻唱，可在 Hugging Face 的浏览器页面使用，也可在本机运行。适合想快速得到歌曲草稿的音乐人和创作者。

DINOv3 Web

webml-community · 工具包

在浏览器本地可视化 DINOv3 模型从图像中提取的密集特征。适合想查看这些特征的开发者和视觉研究人员。

Kannada TTS - Kokoro-82M

Sammy-Mohan · 工具包

一个卡纳达语文字转语音模型的静态展示页，这个模型是 82M 的 Kokoro 模型的微调版本，带有可在浏览器里播放的音频样本。可在线打开，也可从本地副本打开。

Voice Clone Tts

sammiwen · 工具包

一个名为 Voice Clone Tts 的小型静态网页，由 HTML、JavaScript 和 CSS 文件组成。可在线在浏览器里打开，也可从本地副本打开，无需安装。

Kirundi News Topic Classifier

ReneNtabana · 工具包

用一个在浏览器里运行的小模型，把一篇基隆迪语新闻文章归入 10 个主题之一。这是一个静态网页演示，可在线打开，也可从本地副本打开。

MiniCPM5 WebGPU

ProCreations · 工具包

在浏览器标签页里用你自己的 GPU 运行 MiniCPM5 2B 模型，可以聊天，也能生成网站、Word 文档、Excel 工作簿和 PDF。适合想要免安装本地助手的人。

prithivMLmods

prithivMLmods · 工具包

一个标题为 My HF telemetry 的小网页，以 Docker Space 的形式打包，带有 Vite 和 TypeScript 项目文件。可在浏览器里打开，也可在本地 Docker 容器的 7860 端口运行。

LLM Settings Guide

overhead520 · 工具包

一个网页，帮你找到适合某个语言模型的采样器和提示词模板设置，还附带一个 SillyTavern 设置文件夹。适合在本地运行模型并调整输出的人。

Next-Concept Modeling WebGPU

mrfakename · 工具包

通过 WebGPU 在你的浏览器里运行 Hazy Research 的小型 Next-Concept Modeling 检查点，任务有 TinyStories、LM1B small 和数独。适合想要本地、免安装演示的研究者和开发者。

Spark-X2.6-1.7B WebGPU

mohdmahmodi · 工具包

通过 WebGPU 在你的浏览器里运行 Spark-X2.6-1.7B 聊天模型，你输入的内容留在自己的设备上。适合想要私密本地聊天、使用桌面版 Chrome 或 Edge 的人。

Leokani-tts 7M

milliwattlabs · 工具包

用一个只有 7M 参数的小型语音合成模型朗读你输入的任何一句话，它在浏览器里用你自己的 CPU 运行，适合想要本地语音输出的人。

Local Model Explorer

LocalLLaMA · 工具包

展示哪些 GGUF 量化模型适合你的显卡、Mac 或 CPU，适合在自己电脑上运行语言模型、想选一个能跑起来的文件的人。

Example for IS445

jnaiman · 工具包

运行一个标注为 IS445 示例的小型 Streamlit 应用，可以在浏览器里在线使用，也可以用 Python 从本地副本运行。页面本身没有说明这个应用做什么。

DRS-VPT

fulkast · 工具包

在不需要起始位姿猜测的情况下，找出一张相机图像在 3-D 点云中的拍摄位置。适合研究 3-D 扫描中相机定位的研究者和学生。

FLUX.2 Klein multi-LoRA

CirujanoRetro · 工具包

在浏览器页面里运行 FLUX.2 Klein 图像模型，并同时套用多个 LoRA 适配器。适合想混合 LoRA 风格、又不想在本地搭环境的图像创作者。

Texture-Craft

ArshPathan · 工具包

用扩散模型根据文字提示生成透明的 16x16 物品纹理，可通过 Gradio Space、本地 REST 服务或 MCP 工具使用。适合游戏制作者和智能体开发者。

ACE-Step v1.5

ACE-Step · 工具包

用 ACE-Step 1.5 音乐模型，根据简单描述和歌词生成完整歌曲，也能编辑或翻唱已有音频。适合想要本地、快速的 AI 音乐工具的音乐人和创作者。

Local Llm Vram Calculator

abdulrahmanmaslmany · 工具包

估算语言模型需要的 GPU 显存：权重、KV cache 和总显存。适合在自己的显卡上运行模型、想先确认能否放得下的人。

FaceFusion Face Swap HYPERSWAP (CPU)

V0pr0S · 工具包

把 FaceFusion 人脸处理应用作为 Gradio Space 跑在 CPU 上，可在浏览器或本地副本里在图片之间换脸。适合有权使用这些人脸的爱好者和编辑。

SeedVR2 3B Image Upscaler

Upsampler · 工具包

用 SeedVR2-3B 模型一步扩散修复并放大单张图片，可在 Hugging Face 的浏览器页面使用，也可在本机运行。适合想把模糊或偏小的图片变清晰的人。

Apertus Mini WebGPU

swiss-ai · 工具包

借助 WebGPU，在网页浏览器里用你自己的机器运行 Apertus Mini 模型，不需要搭建服务器。适合想在本地试用小模型的开发者和好奇的用户。

SADIK AI

SadikNawazAI · 工具包

一个多语言聊天助手，通过 WebAssembly 完全在你的浏览器里运行，所以你的消息留在你的设备上。也可以通过 Ollama 和本地 API 使用。

Parakeet Redux WebGPU

mrfakename · 工具包

在浏览器里用 WebGPU 把语音转成文字，提供两个大小不同的 Parakeet 模型。适合想在本地做语音识别的人，也适合研究浏览器端识别的开发者。

FLUX.1 Kontext

black-forest-labs · 工具包

在浏览器演示里用 FLUX.1 Kontext dev 模型编辑图片，自带三张示例图片。适合想不在本地搭环境就试试 AI 图片编辑的设计师和图像创作者。

LLM VRAM Calculator

donaldJJ · 工具包

估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存，拆成权重、KV 缓存和额外开销，并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。

Wan 2.2 Animate Character Replace

neksjgg · 工具包

用 Wan 2.2 Animate 模型，把视频里的角色换成参考图里的角色，在 ZeroGPU 上运行。适合不想在本地搭环境、想换角色的视频创作者和动画师。

一个 n8n 工作流，用你自己 Ollama 服务器上的模型，根据一个主题为 X、LinkedIn、Reddit 和 Instagram 写草稿帖子。第二遍会把它们再读一次并改正错误。它不会替你发帖。

一个 n8n 工作流，通过 IMAP 读取最近一天的收件箱，把促销邮件静音，再让你自己机器上的 Ollama 模型判断哪些邮件串需要处理。紧急的发到 Telegram，Telegram 失败时发到 ntfy。

一个 n8n 工作流，用本地 Ollama 模型整理 Outlook 邮件。它给每封未整理的邮件设一个分类，再把垃圾邮件、收据、SaaS 和社区邮件移到你选的文件夹里。

一个 n8n 工作流：用你自己电脑上通过 Ollama 运行的模型给每封新邮件打标签，丢掉垃圾邮件，并为其余邮件起草回复。什么也不会发出。

一个 n8n 工作流，监视文件夹里的银行流水 CSV。AI Agent 把每份流水和本地 Excel 工作簿里的租户与房产核对，再把提醒写到同一个工作簿的一张工作表里。

一个 n8n 工作流，监视一个文件夹，把里面的文本文件存进 Qdrant 向量库，文件变化时自动新增、替换和清除。再用聊天窗口通过 Mistral 回答关于这些文件的问题。

一个 n8n 聊天：每条消息都发给你自己 Ollama 服务器上的 Llama 3.2。模型把回答写成一个 JSON 对象，聊天里显示你的提问、模型的回答和它出自的 JSON。

一块 n8n 画布，四种接入 DeepSeek 的方式：Ollama 上的本地 R1 模型回答聊天，两个直接调用 API 的请求（开思考和关思考），还有一个带记忆的智能体。

一个 n8n 工作流，监视运行 n8n 的机器上的一个文件夹。有文件到来时，Mistral 聊天模型为每个零散文件选一个子文件夹，再由一小段 shell 脚本把它移进去。

一个有两个节点的 n8n 工作流，让通过 Ollama 在你自己电脑上运行的模型写一段简短的欢迎语。它是测试 n8n 能否连上 Ollama 的最小办法。

一个带聊天框的 n8n 工作流：输入一条消息，在你自己的 Ollama 里运行的 Mistral NeMo 就以 JSON 返回姓名、联系方式、主题和时间。文字只在 n8n 和你的 Ollama 之间流动。

一个 n8n 工作流，用你自己机器上的 Ollama 模型，把一段文本和一份源文档逐句核对。一个事实核查模型给每句标 Yes 或 No，第二个模型再把标为 No 的句子总结出来。

一个在你自己电脑上写博客文章的 n8n 工作流。设好主题、语气和长度，Ollama 的 llama3:8b 就会研究主题、列大纲、写草稿并修改。不需要 API 密钥，也不需要账号。

一个带聊天智能体的 n8n 工作流，智能体跑在本地的 Ollama 模型上。它算出一个地点的经纬度，从 Open-Meteo 读一天的气温，并用 Wikipedia 回答一般问题。记忆保存最近 20 轮对话。

localthings

mbillow · 工具包

让 Home Assistant 通过本地网络控制三星洗衣机、烘干机、冰箱、空调和烤箱，不需要云账号。适合有兼容 SmartThings 的家电的 Home Assistant 用户。

AIEV

notivn · 技能

由 Claude 担任导演，自动剪辑视频：转写片段、规划剪辑、加上字幕、缩放和音效，并导出 MP4。适合想要本地控制台的创作者。

radar-cnpj-mcp

wendersoon · 工具包

让 AI 智能体按行业和地区搜索巴西公开的 CNPJ 企业登记库，使用由联邦数据文件建成的本地数据库。免费，数据留在你的机器上。适合销售和市场分析人员。

BAMA

daveebbelaar · 技能

给你的编程智能体 21 个技能，用来克隆你喜欢的应用、做好规划，并用 Swift 和 SwiftUI 把它做成原生 Mac 应用，数据保存在本地。

Garden Skills（Garden 技能合集）

ConardLi · 技能

ConardLi 做的六个免费技能，给 AI 编程智能体用：代码渲染的动效视频、点击推进的网页演示、网页设计、GPT Image 2 提示词和出图、精美的 HTML 文章，以及基于本地知识库的问答。

Graphify

graphify-labs · 技能

将代码库、文档和技术文件转换为可供 AI 编程助手搜索的知识图谱。它利用本地 AST 解析来映射代码、文档和配置之间的关联。

Hex

anomalyco · 工具包

在你的设备上进行本地语音转文字，并将结果直接粘贴到当前应用中。这款工具适合希望在不将音频数据上传至云端的情况下，实现隐私化语音识别的用户。

Floci

floci-io · 工具包

AWS 服务本地模拟器，允许开发者无需云账号即可测试基础设施和应用程序。它通过为常用服务提供本地端点，支持标准的 SDK 和工具。

Heretic

p-e-w · 工具包

通过调整内部权重来修改本地语言模型，从而移除拒绝回复、减少冗余内容或改变风格表现。专为使用自定义 LLM 的开发者和爱好者打造。

一个 n8n 工作流，把一次 Google 地图搜索变成一张带邮箱的本地商家表。表单接收关键词、地点和数量。Apify 收集商家，gpt-4o-mini 从每家网站读出邮箱，Anymail Finder 补上缺的。

一个 n8n 工作流，里面是通过 Apify Actor 从 Google 地图收集本地商家的零件：启动运行，等待，再读取地点。一段 JSON 请求体写明地点、商家类型和要收集的数量。它的节点之间没有连线。

kotaemon 文档问答应用

Cinnamon · 工具包

Cinnamon 的开源网页应用，用来和你的文档对话。你上传文件，选一个 API 或本地模型，就能得到带引用的回答，引用可以在 PDF 阅读器里打开。可以用 Docker、发布版 zip 或源码运行。

MaxKB 企业级智能体平台

1Panel-dev · 工具包

1Panel-dev 的开源平台，用来在你自己的服务器上搭建企业级智能体。它用 RAG 从你的文档里找答案，用 MCP 工具跑工作流，本地模型和托管模型都能接，例如 DeepSeek、Qwen、OpenAI 和 Claude。

Zed 代码编辑器

zed-industries · 工具包

Zed Industries 做的代码编辑器，可用于 macOS、Linux 和 Windows，出自 Atom 和 Tree-sitter 的作者之手。这份说明讲各个系统上的安装、在它里面运行 Claude、Codex 等智能体、本地模型、MCP 服务器，以及怎么把联网的部分关掉。

Sim 智能体工作流工作区

simstudioai · 工具包

Sim Studio 的工作区，用来构建、部署和管理 AI 智能体与工作流，核心采用 Apache 2.0 许可证。可以用 Sim Cloud，用 Docker 自己托管，或者用 Mac 应用。说明涵盖 sim-setup、本地模型，以及通过 MCP 连接 Claude Code、Codex 或 Cursor。

LocalSend 局域网文件互传工具

localsend · 工具包

LocalSend 采用 Apache-2.0 许可，是一个通过局域网向附近设备发送文件和文字的应用，不需要账号，也不需要联网。安装说明涵盖 Windows、macOS、Linux、Android 和 iOS，还有终端客户端，以及防火墙和路由器问题的解决办法。

AFFiNE 文档白板工作区

toeverything · 工具包

一款开源、本地优先的工作区，文档、白板和数据库都由同一套块搭成，所以同一份文档既能当页面读，也能展开成无边画布。安装说明涵盖各个应用、用 Docker Compose 自托管、AI 密钥、备份，以及通过 MCP 接入 Claude Code、Cursor 和 Cline。

OpenCode 开源编程智能体

anomalyco · 工具包

一个开源 AI 编程智能体，可以在终端、桌面和网页里用。它能连接许多模型提供方，也能连本地模型。Mindket 的安装说明讲了安装、模型、智能体、权限、MCP 服务器，以及怎么从 OpenCode 1 迁移。

System Design 101 系统设计图解

ByteByteGoHq · 工具包

ByteByteGo 出品的可视化图解，讲软件系统是怎么运转的，目录放在 GitHub，每篇指南在它的网站上。安装说明涵盖在线阅读、本地副本、让 Claude Code、Codex 或 Cursor 帮你搜索、一条面试阅读路线，以及维护者的 README 脚本。

RAGFlow 检索增强生成引擎

infiniflow · 工具包

InfiniFlow 的开源 RAG 引擎，带智能体功能。你把文档载入数据集，RAGFlow 读出版面、文字和表格，聊天时给出带引用的回答。安装说明覆盖 Docker、源码构建、本地模型、MCP 和 API。

Open Interpreter 终端编程智能体

openinterpreter · 工具包

新的 Rust 版 Open Interpreter，一个跑在终端里的编程智能体，基于 OpenAI 的 Codex。模型由你自己带，从 ChatGPT 或 API 密钥，到 Kimi K3、DeepSeek、GLM 或本地模型都行。它可以照搬另一个智能体的提示词和工具，来适配低成本模型。

Awesome LLM Apps 智能体示例

Shubhamsaboo · 工具包

Shubham Saboo 的开源合集，收录 AI 智能体、智能体技能和 RAG 应用，大部分各在自己的文件夹里，带一份 README。安装说明涵盖 Claude Code、Codex 和 Cursor 的技能、Python 应用、本地 Ollama 应用、一个 MCP 智能体和一套 Google ADK 课程。

System Design Primer 系统设计入门

donnemartin · 工具包

Donne Martin 整理的一套资源，教你设计大规模系统并准备系统设计面试，附带解答示例和 Anki 闪卡。安装说明涵盖阅读方式、本地副本、闪卡包，以及让 Claude Code、Codex 或 Cursor 当学习搭档。

微软生成式 AI 入门课

microsoft · 工具包

微软 Cloud Advocates 团队做的免费课程，教你构建生成式 AI 应用，共 21 节课。Learn 课讲解概念，Build 课在可行时另附 Python 和 TypeScript 示例。安装说明涵盖 Codespaces、本地安装和课程用到的各个模型提供方。

Context Mode 上下文节省插件

mksglu · 工具包

mksglu 做的免费本地插件，让工具输出不进入编程智能体的上下文窗口。原始输出留在沙箱和 SQLite 索引里，回到模型的只有答案。安装说明涵盖 Claude Code、Codex、Gemini CLI、Cursor、Copilot 等。

text-to-cad 文字生成 CAD 插件

earthtojake · 技能

earthtojake 做的插件，让 Claude Code、Codex、Cursor、Gemini 和 Grok 在本地完成 CAD 工作流。智能体把每个模型写成 Python 脚本，生成 STEP、GLB、STL 或 3MF 文件，还能出工程图和可制造性检查。

Billion Context 上下文压缩代理

ranxianglei · 工具包

ranxianglei 做的本地代理，用于编程智能体的长会话。它把旧的对话折叠成以后还能展开的摘要，让一个会话在小窗口里也能连续跑上好几天。支持 Claude Code、Codex、OpenCode、pi、DeepSeek 的 dsh，另外还支持大约二十个客户端。

Claude SEO（AgriciDaniel 出品）

AgriciDaniel · 技能

AgriciDaniel 做的 Claude Code 插件，用一组专项技能和子智能体审查网站的 SEO。审查范围包括技术检查、内容与 E-E-A-T、schema、AI 搜索，以及本地 SEO 和电商 SEO。它会把发现的问题整理成按优先级排列的行动计划。