AI 智能体技能、规则与提示词工具包

Swift 1.5 Ornith 9B GGUF

ukisai · 工具包

以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B，这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。

Llama-3.1-8B-Stheno-v3.4

Sao10K · 工具包

写故事，并在多轮对话中扮演角色。这是一个面向创意写作和角色扮演的 8B Llama 3.1 微调模型，适合在自己机器上运行模型的爱好者。

MiMo-V2.6-Distill-Qwen-9B-GSQ-RCO-GGUF

sainez · 工具包

把一个 9B 的编程和工具调用模型做成一个 3.64 GiB 的 GGUF 文件，以约 3.5 比特每权重量化，方便在你自己的机器上运行。

Qwen3-30B-A3B-GGUF

Qwen · 工具包

一个 30.5B 的混合专家聊天模型，GGUF 格式，每个词元只激活 3.3B 参数，可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式，适合机器配置较高的开发者。

Qwen2.5-Coder-32B-Instruct-GGUF

Qwen · 工具包

一个 32B 代码聊天模型的 GGUF 版本，可用 llama.cpp 在本地运行。能根据简单请求编写、解释和修复代码，适合想在自己机器上运行的开发者。

AstrLink Guard

QuantumNous · 工具包

在 ONNX 中本地识别中文、英文和混合文本、代码、日志以及 AI 编程助手请求里的个人信息和凭据。适合在敏感数据离开机器前对它做遮盖的开发者。

PP-OCRv6_small_rec

PaddlePaddle · 工具包

能读出图片里的英文和中文文字，是 PaddleOCR 的 PP-OCRv6 系列里的小型模型。适合想在自己机器上用轻量 OCR 的开发者。

MiniCPM-OCR 1.0 GGUF

openbmb · 工具包

把中英文文档（包括 PDF）解析成文本、表格和公式，提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上运行 MiniCPM-OCR 1.0 的人。

Hermes-4.3-36B-GGUF

NousResearch · 工具包

Hermes 4.3 36B 的 GGUF 版本，是一个混合推理模型，能先思考再回答、写出有效的 JSON，并遵循你的系统提示词。适合在自己机器上运行大模型的人。

nomic-embed-text-v1.5-GGUF

nomic-ai · 工具包

通过 llama.cpp 在你自己的机器上把句子变成向量，使用紧凑的 GGUF 文件，适合搜索和 RAG 提问。适合想要本地文本嵌入的开发者。

JevK5-chat-mlx-4bit

mlx-community · 工具包

4.2B 聊天模型 JevK5 的 4-bit MLX 版本，面向 Apple Silicon，上下文 262,144 token，内存占用小。适合想在入门级 Mac 上用本地聊天模型的用户。

GLM-5.3-Flash EXL3 4bpw for TensorFold

Mia-AiLab · 工具包

为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版，在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。

Qwopus3.8-27B-Flash-GGUF

Jackrong · 工具包

为长时间的智能体任务缩短推理时间、降低成本，是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

hesamation · 工具包

以四种量化大小的 GGUF 文件在你自己的机器上运行推理微调的 Qwen3.6-35B-A3B，训练数据是 Claude Opus 4.6 风格的推理数据。适合想在本地获得逐步推理回答的人。

MuLaCover

HeartMuLa · 工具包

根据参考曲目、歌词和风格提示词，或根据旋律与和弦 MIDI，生成翻唱歌曲和音乐混音，输出 WAV 文件。适合在 CUDA 机器上做非商业音乐项目。

Qwen2.5-Coder-1.5B Q8_0 GGUF

ggml-org · 工具包

通过 llama.cpp 在你自己的机器上运行 Qwen2.5-Coder 1.5B 的 Q8_0 GGUF 文件，可以用命令行，也可以做成本地服务器。适合想用小型代码模型的开发者。

Clef-GGUF

ggml-org · 工具包

Cloudflare 的 Clef 决策模型的 GGUF 文件，支持图像和文本输入。用 llama.cpp 工具提供服务，通过决策 API 路径调用。适合在自己机器上运行它的开发者。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

wan-gguf

calcuis · 工具包

Wan 视频模型的 GGUF 量化版本，可在 ComfyUI 或 diffusers 中做文生视频，包括适合旧机器的 1.3b 小文件。适合在本地制作 AI 短视频的人。

pig-vae

calcuis · 工具包

pig 架构的小型 GGUF VAE，用于图像和视频工作流，加载器在 gguf-node 包里。目标是在较旧的机器上运行更快、占用内存更少。

Surya 2.5 GGUF

datalab-to · 工具包

从文档图像里读取文字、表格和版面，并以文字返回。这是 Surya 2.5 OCR 模型面向 llama.cpp 的 GGUF 版本，适合想在自己电脑上运行文档 OCR 的人。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

GLM-5.3-Flash EXL3 Spark

0xSero · 工具包

在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash，使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。

Qwen3-Embedding-0.6B-GGUF

Qwen · 工具包

这个 0.6B 的 GGUF 格式模型把文本变成数字向量，用于 100 多种语言的搜索、检索和聚类。适合要在自己机器上做搜索或相似度功能的开发者。

auto-150m-3

ProCreations · 工具包

根据工具调用、用户请求和历史，判断编程智能体提出的工具调用是否应该执行，回答批准或拒绝。这是 Auto 里最小的模型，适合内存很少的机器。

MiniCPM-OCR Jev GGUF

openbmb · 工具包

为文本、公式和表格区域的 OCR 结果打 0 到 1 之间的质量分，提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上检查 OCR 结果的人。

Qwen3.6-35B-A3B lododo-Distill-v1.0 (GGUF)

lododoai · 工具包

一个可在本地运行的文本模型，是 Qwen3.6-35B-A3B 的微调版本，用 Qwen3.8-27B 生成的数据训练，打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

NLLB-200 3.3B

facebook · 工具包

在 200 种语言之间翻译单个句子，重点关注低资源语言。这是 facebook 发布的研究模型，面向机器翻译研究者，不用于生产环境或认证翻译。

ZONOS2

Zyphra · 工具包

把文字转成 30 多种语言的自然语音，能根据样本克隆声音，采用混合专家模型以实现低延迟。可以在带 NVIDIA GPU 的 Linux 机器上本地运行。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

Hy-MT2-30B-A3B

tencent · 工具包

腾讯推出的 30B 混合专家翻译模型，支持 33 种语言互译，并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

PaddleOCR-VL

PaddlePaddle · 工具包

读取文档图像并返回其中的文字，是参数不到十亿的视觉语言模型。适合在自己的机器上用 PaddleOCR 解析中英文文档的人。

OpenAI Privacy Filter

openai · 工具包

一次扫描就找出并遮盖文本里的姓名、邮箱等个人信息，可在你自己的机器上运行。适合需要在本地处理大量文本的团队。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

Mellum2.1-12B-A2.5B-Thinking-GGUF

JetBrains · 工具包

在 llama.cpp、Ollama 或 LM Studio 里本地运行 JetBrains 的 12B 推理模型，有五种 GGUF 大小可选。适合想在自己电脑上用上下文为 131,072 个 token 的思考模型的开发者。

faster-whisper-large-v3

Systran · 工具包

把音频文件里的语音转成带时间戳的文字，是为 CTranslate2 和 faster-whisper 转换的 OpenAI Whisper large-v3。适合在自己机器上转写多语言录音的开发者。

Ornith-1.5-122B-GGUF

unsloth · 工具包

在你自己的机器上运行 Ornith-1.5-122B 文本模型，由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型，面向单块 GPU 上的编程和智能体工作。

Semi-Supervised Contrastive Learning with SimCLR

keras-io · 工具包

在 Gradio 页面里运行 Keras 团队用 SimCLR 对比学习、只用少量标签训练的图像分类器，附带示例图片，适合机器学习学习者和研究人员。

RandAugment for Image Classification

keras-io · 工具包

在 Gradio 页面里用 Keras 模型演示 RandAugment 这种随机数据增强方法，用于图像分类，附带四张示例图片，适合机器学习学习者。

Pixel CNN MNIST

keras-io · 工具包

在 Gradio 页面里用 Keras 团队的 PixelCNN 模型生成手写数字风格的小图片，适合对图像生成好奇的机器学习学习者。

Augmenting CNNs with attention-based aggregation

keras-io · 工具包

在 Gradio 页面里用在 ImageNette 上训练的、带注意力聚合的 CNN，显示图像分类器决定背后的注意力图，适合机器学习学习者和研究人员。

Involution

keras-io · 工具包

在 Gradio 页面里运行 Keras 团队用 involution 层搭建的图像模型，附带示例图片，适合机器学习学习者和视觉研究人员。

Integrated Gradients

keras-io · 工具包

在 Gradio 页面里用积分梯度方法显示图片的哪些部分推动了模型的预测，附带一张大象照片可以试，适合机器学习学习者和研究人员。

Flowers Classification MobileViT

keras-io · 工具包

在 Gradio 页面里用 Keras 的小型 MobileViT 模型识别照片里的花的种类，附带示例图片，适合机器学习学习者和植物爱好者。

Deep Dream

keras-io · 工具包

在 Gradio 页面里用 Keras 模型给图片做 DeepDream 效果，附带一张天空照片可以试，适合机器学习学习者和图像爱好者。

Character LSTM

keras-io · 工具包

在 Gradio 页面里运行 Keras 团队的字符级 LSTM 序列到序列模型，一个字符一个字符地把输入文本变成输出文本，适合机器学习学习者。

Anime Face Detector

hysts · 工具包

用纯 PyTorch 在 Gradio 页面里找出图片中的动漫人脸，并为每张脸估计 28 个关键点，适合画师、数据集制作者和机器学习开发者。

Inpaint_Me

Huertas97 · 工具包

在 Streamlit 页面里用图像修复补全或修补图片的指定部分，附带示例图和修复结果，适合修图的人和机器学习学习者。