开发者 AI 技能与智能体

Swift 1.5 Ornith 9B GGUF

ukisai · 工具包

以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B，这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。

MiMo-V2.6-Distill-Qwen-9B-GSQ-RCO-GGUF

sainez · 工具包

把一个 9B 的编程和工具调用模型做成一个 3.64 GiB 的 GGUF 文件，以约 3.5 比特每权重量化，方便在你自己的机器上运行。

Qwen3-30B-A3B-GGUF

Qwen · 工具包

一个 30.5B 的混合专家聊天模型，GGUF 格式，每个词元只激活 3.3B 参数，可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式，适合机器配置较高的开发者。

Qwen2.5-Coder-32B-Instruct-GGUF

Qwen · 工具包

一个 32B 代码聊天模型的 GGUF 版本，可用 llama.cpp 在本地运行。能根据简单请求编写、解释和修复代码，适合想在自己机器上运行的开发者。

AstrLink Guard

QuantumNous · 工具包

在 ONNX 中本地识别中文、英文和混合文本、代码、日志以及 AI 编程助手请求里的个人信息和凭据。适合在敏感数据离开机器前对它做遮盖的开发者。

PP-OCRv6_small_rec

PaddlePaddle · 工具包

能读出图片里的英文和中文文字，是 PaddleOCR 的 PP-OCRv6 系列里的小型模型。适合想在自己机器上用轻量 OCR 的开发者。

Hermes-4.3-36B-GGUF

NousResearch · 工具包

Hermes 4.3 36B 的 GGUF 版本，是一个混合推理模型，能先思考再回答、写出有效的 JSON，并遵循你的系统提示词。适合在自己机器上运行大模型的人。

nomic-embed-text-v1.5-GGUF

nomic-ai · 工具包

通过 llama.cpp 在你自己的机器上把句子变成向量，使用紧凑的 GGUF 文件，适合搜索和 RAG 提问。适合想要本地文本嵌入的开发者。

JevK5-chat-mlx-4bit

mlx-community · 工具包

4.2B 聊天模型 JevK5 的 4-bit MLX 版本，面向 Apple Silicon，上下文 262,144 token，内存占用小。适合想在入门级 Mac 上用本地聊天模型的用户。

GLM-5.3-Flash EXL3 4bpw for TensorFold

Mia-AiLab · 工具包

为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版，在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。

Qwopus3.8-27B-Flash-GGUF

Jackrong · 工具包

为长时间的智能体任务缩短推理时间、降低成本，是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF

hesamation · 工具包

以四种量化大小的 GGUF 文件在你自己的机器上运行推理微调的 Qwen3.6-35B-A3B，训练数据是 Claude Opus 4.6 风格的推理数据。适合想在本地获得逐步推理回答的人。

MuLaCover

HeartMuLa · 工具包

根据参考曲目、歌词和风格提示词，或根据旋律与和弦 MIDI，生成翻唱歌曲和音乐混音，输出 WAV 文件。适合在 CUDA 机器上做非商业音乐项目。

Qwen2.5-Coder-1.5B Q8_0 GGUF

ggml-org · 工具包

通过 llama.cpp 在你自己的机器上运行 Qwen2.5-Coder 1.5B 的 Q8_0 GGUF 文件，可以用命令行，也可以做成本地服务器。适合想用小型代码模型的开发者。

Clef-GGUF

ggml-org · 工具包

Cloudflare 的 Clef 决策模型的 GGUF 文件，支持图像和文本输入。用 llama.cpp 工具提供服务，通过决策 API 路径调用。适合在自己机器上运行它的开发者。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

pig-vae

calcuis · 工具包

pig 架构的小型 GGUF VAE，用于图像和视频工作流，加载器在 gguf-node 包里。目标是在较旧的机器上运行更快、占用内存更少。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

GLM-5.3-Flash EXL3 Spark

0xSero · 工具包

在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash，使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。

Qwen3-Embedding-0.6B-GGUF

Qwen · 工具包

这个 0.6B 的 GGUF 格式模型把文本变成数字向量，用于 100 多种语言的搜索、检索和聚类。适合要在自己机器上做搜索或相似度功能的开发者。

auto-150m-3

ProCreations · 工具包

根据工具调用、用户请求和历史，判断编程智能体提出的工具调用是否应该执行，回答批准或拒绝。这是 Auto 里最小的模型，适合内存很少的机器。

MiniCPM-OCR Jev GGUF

openbmb · 工具包

为文本、公式和表格区域的 OCR 结果打 0 到 1 之间的质量分，提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上检查 OCR 结果的人。

Qwen3.6-35B-A3B lododo-Distill-v1.0 (GGUF)

lododoai · 工具包

一个可在本地运行的文本模型，是 Qwen3.6-35B-A3B 的微调版本，用 Qwen3.8-27B 生成的数据训练，打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

Hy-MT2-30B-A3B

tencent · 工具包

腾讯推出的 30B 混合专家翻译模型，支持 33 种语言互译，并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

OpenAI Privacy Filter

openai · 工具包

一次扫描就找出并遮盖文本里的姓名、邮箱等个人信息，可在你自己的机器上运行。适合需要在本地处理大量文本的团队。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

Mellum2.1-12B-A2.5B-Thinking-GGUF

JetBrains · 工具包

在 llama.cpp、Ollama 或 LM Studio 里本地运行 JetBrains 的 12B 推理模型，有五种 GGUF 大小可选。适合想在自己电脑上用上下文为 131,072 个 token 的思考模型的开发者。

Ornith-1.5-122B-GGUF

unsloth · 工具包

在你自己的机器上运行 Ornith-1.5-122B 文本模型，由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型，面向单块 GPU 上的编程和智能体工作。

Anime Face Detector

hysts · 工具包

用纯 PyTorch 在 Gradio 页面里找出图片中的动漫人脸，并为每张脸估计 28 个关键点，适合画师、数据集制作者和机器学习开发者。

DeepSeek-V4.1-Flash-1017 Maya GGUF

peasantsmith · 工具包

通过为 Project Maya 制作的两种 GGUF 量化版本，在家用电脑上运行 748B 的 DeepSeek 混合专家模型。适合有大内存机器和高速 SSD 的人。

AREX-2-i1-GGUF

mradermacher · 工具包

BAAI/AREX-2（一个 26.9B 的视觉模型）的加权 GGUF 量化版本，约有两打尺寸，从 7.2 GB 到 22.2 GB，另有一个用来制作你自己量化版本的 imatrix 文件。由 mradermacher 制作。

flux_text_encoders

comfyanonymous · 工具包

提供用于 Flux 图像模型的文本编码器检查点，为 ComfyUI 的 DualClipLoader 节点而做。适合在自己电脑上运行 Flux 的 ComfyUI 用户。

SeedVR2

Comfy-Org · 工具包

借助 ByteDance Seed 的 SeedVR2 3B 和 7B 重新打包的文件，在 ComfyUI 里放大图片和视频，提供多种精度格式。适合在自己电脑上用 ComfyUI 做放大的用户。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

SmolLM3-3B

HuggingFaceTB · 工具包

作为小型 3B 开放模型来写作和回答问题，支持可切换的逐步思考、工具调用和长上下文，适合想在自己电脑上用紧凑模型的开发者。

Fibo 2.0

Comfy-Org · 工具包

借助 BRIA AI 重新打包的 Fibo 2.0 文件，在 ComfyUI 里编辑图片，提供 bf16 和 int8 两种版本，以及 Dev 和 Turbo 编辑工作流。适合在自己电脑上用 ComfyUI 的用户。仅限非商业许可。

gemma-4-E4B-it-GGUF

unsloth · 工具包

Google Gemma 4 E4B 指令模型的 4-bit GGUF 版本，由 Unsloth 打包，可在你自己的机器上运行。它能读取文字和图像，并用文字回答。

halogen-qwen3.8-flash-next

peonist-ai · 工具包

存放 halogen-flash-server 所用的模型权重，这个引擎能在 AMD Strix Halo 机器上运行 Qwen3.8-Flash-Next，适合想在本机运行该模型的这类硬件的主人。

Gemma4-12B v2 Coding + Agentic Edition

yuxinlu1 · 工具包

Google Gemma 4 12B 指令模型的 GGUF 微调版本，面向编程和使用工具的智能体工作，只需约 4.5 GB 空闲内存就能离线运行。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

Alpie Seed 9B GGUF

169Pi · 工具包

通过三种位深的 GGUF 文件，在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。

Qwen2.5-Coder-7B-Instruct-GGUF

Qwen · 工具包

在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型，打包成 GGUF 文件，有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。

Muse Glimmer 30B

meta-models · 工具包

读取文字和图片，在本地机器上完成工具调用、多步推理等智能体任务，是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。

Mach Boom

SyzygyResearch · 工具包

用 Gradium 的 Phonon 31m 模型的 3.5 位版本，在单个 CPU 核心上把英文文字变成语音，速度比实时快好几倍，适合需要小巧本地语音输出的开发者。

DeepSeek-V4.1-Flash-1017-GGUF

unsloth · 工具包

Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，这是一个巨大的图文模型，可在 128 GB 或更多内存的机器上本地运行，适合自己运行大型开放模型的人。

Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

Qwen3.8-Flash-Next 的偏编程 GGUF 版本，去掉了一半专家，把 BF16 的 354 GB 缩到 58.4 GB，同时保留图片输入，适合有大机器、想在本地用编程模型的人。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 专家剪枝加量化的 GGUF 版本，面向代码和智能体工作，transformer 权重为 72.1 GB。适合有大内存机器的开发者。

AREX-2

BAAI · 工具包

用 BAAI 的 27B 模型，通过多轮提出、测量、反思和修改来改进自己的解答，适合做编程、机器学习和深度研究任务的智能体研究者和开发者。

Qwen 0.5B

Osstral · 工具包

Osstral 做的小型 Gradio 演示，提供 Qwen2.5-0.5B-Instruct 模型，适合想在浏览器或自己电脑上试用一个很小的指令微调模型的人。

Local Model Explorer

LocalLLaMA · 工具包

展示哪些 GGUF 量化模型适合你的显卡、Mac 或 CPU，适合在自己电脑上运行语言模型、想选一个能跑起来的文件的人。

Finetune

josephwong135 · 工具包

把 Hugging Face 的 AutoTrain 打包成 Docker 应用，AutoTrain 是一种免写代码训练 AI 模型的方式。适合想不写代码训练模型的人，可以在浏览器里用，也可以在自己的电脑上运行。

Clinassist Train

Gs2004 · 工具包

存放用 GRPO 为作者的 Clinassist 项目调优 Qwen 模型所用的训练脚本和 Gradio 应用。适合想阅读或重跑这套训练的机器学习开发者。

FloraFind

crashn · 工具包

在浏览器中运行的 Gradio 应用，背后是模型训练、评估和预测代码，附带检查点和示例文件。适合想研究或本地运行完整机器学习项目的学生和开发者。

SplitSafe - Audio ML Leakage Auditor

boobalanit · 工具包

用不需要 GPU 的音频指纹，检查音频数据集的训练、验证和测试划分里有没有泄漏的副本和重复的说话人。适合构建音频机器学习模型的人。

Apertus Mini WebGPU

swiss-ai · 工具包

借助 WebGPU，在网页浏览器里用你自己的机器运行 Apertus Mini 模型，不需要搭建服务器。适合想在本地试用小模型的开发者和好奇的用户。

Gpu Tflop Finder

muellerzr · 工具包

在一个小型 Gradio 应用里查询某块 GPU 的 TFLOPs，也就是算力速度的度量。适合需要比较显卡或估算工作量的机器学习工程师和爱好者。

Midi Music Generator

skytnt · 工具包

用 AI 音乐模型作曲，输出 MIDI，可在浏览器或你自己的电脑上使用。适合想要可编辑的机器作曲的音乐人、爱好者和开发者。

MLX Model Explorer

mlx-community · 工具包

帮 Mac 用户找到适合自己机器的 MLX 模型和量化版本，是一个静态页面，在任何浏览器里打开即可，不需要安装。

一个带聊天窗口的 n8n 工作流。每条消息经由 Basic LLM Chain 发给你自己机器上 Ollama 提供的模型，回答回到同一个窗口。

mujoco

google-deepmind · 工具包

快速而准确地模拟接触周围环境的关节体物理，用于机器人、生物力学、动画和机器学习方面的工作。附带 C API、Python 绑定和 Unity 插件。

nvke

dsx-ai-factory · 工具包

让平台团队在自己的裸金属 NVIDIA GPU 机器上，为客户提供 Kubernetes 集群，每个集群都有独立的控制平面。目前是预览版，不适合生产环境。

Hugging Face Skills（Hugging Face 官方 AI 技能包）

huggingface · 技能

Hugging Face 官方为在 Hub 上做 AI 和机器学习工作准备的技能。一个命令行技能带你入门，另外二十四个覆盖训练、评测、数据集、Spaces 和 AWS SageMaker。它们适用于 Claude Code、Codex、Gemini CLI 和 Cursor。

goose 开源 AI 智能体

aaif-goose · 工具包

一个在你自己电脑上运行的开源 AI 智能体，有桌面应用、命令行和 API 三种形态。它可以接多家模型提供方和任意 MCP 服务器。安装说明涵盖 macOS、Linux、Windows、Claude Code 和 Codex 登录、Zed、CI 和项目提示文件。

exo 设备 AI 集群

exo-explore · 工具包

exo 的 Apache-2.0 软件，把你的设备连成一个 AI 集群，让单台机器装不下的模型也能跑在它们之上。安装说明涵盖 macOS 应用、macOS 和 Linux 的源码安装、Thunderbolt 上的 RDMA、API 和卸载。

OpenHands Agent Canvas 编程智能体控制台

OpenHands · 工具包

OpenHands 开源、可自托管的编程智能体控制台。在一个浏览器应用里，让 OpenHands 智能体、Claude Code、Codex、Gemini CLI、Pi 或 OpenCode 在你的电脑、Docker、虚拟机或云端运行，还能定时跑自动化。