开发者 AI 技能与智能体

auto-150m-3

ProCreations · 工具包

根据工具调用、用户请求和历史，判断编程智能体提出的工具调用是否应该执行，回答批准或拒绝。这是 Auto 里最小的模型，适合内存很少的机器。

MiniCPM-OCR Jev GGUF

openbmb · 工具包

为文本、公式和表格区域的 OCR 结果打 0 到 1 之间的质量分，提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上检查 OCR 结果的人。

Qwen3.6-35B-A3B lododo-Distill-v1.0 (GGUF)

lododoai · 工具包

一个可在本地运行的文本模型，是 Qwen3.6-35B-A3B 的微调版本，用 Qwen3.8-27B 生成的数据训练，打包成适用于 llama.cpp 的单个 GGUF 文件。适合在自己机器上跑模型做代码和工具调用的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

Hy-MT2-30B-A3B

tencent · 工具包

腾讯推出的 30B 混合专家翻译模型，支持 33 种语言互译，并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

OpenAI Privacy Filter

openai · 工具包

一次扫描就找出并遮盖文本里的姓名、邮箱等个人信息，可在你自己的机器上运行。适合需要在本地处理大量文本的团队。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

Mellum2.1-12B-A2.5B-Thinking-GGUF

JetBrains · 工具包

在 llama.cpp、Ollama 或 LM Studio 里本地运行 JetBrains 的 12B 推理模型，有五种 GGUF 大小可选。适合想在自己电脑上用上下文为 131,072 个 token 的思考模型的开发者。

Ornith-1.5-122B-GGUF

unsloth · 工具包

在你自己的机器上运行 Ornith-1.5-122B 文本模型，由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型，面向单块 GPU 上的编程和智能体工作。

Anime Face Detector

hysts · 工具包

用纯 PyTorch 在 Gradio 页面里找出图片中的动漫人脸，并为每张脸估计 28 个关键点，适合画师、数据集制作者和机器学习开发者。

DeepSeek-V4.1-Flash-1017 Maya GGUF

peasantsmith · 工具包

通过为 Project Maya 制作的两种 GGUF 量化版本，在家用电脑上运行 748B 的 DeepSeek 混合专家模型。适合有大内存机器和高速 SSD 的人。

AREX-2-i1-GGUF

mradermacher · 工具包

BAAI/AREX-2（一个 26.9B 的视觉模型）的加权 GGUF 量化版本，约有两打尺寸，从 7.2 GB 到 22.2 GB，另有一个用来制作你自己量化版本的 imatrix 文件。由 mradermacher 制作。

flux_text_encoders

comfyanonymous · 工具包

提供用于 Flux 图像模型的文本编码器检查点，为 ComfyUI 的 DualClipLoader 节点而做。适合在自己电脑上运行 Flux 的 ComfyUI 用户。

SeedVR2

Comfy-Org · 工具包

借助 ByteDance Seed 的 SeedVR2 3B 和 7B 重新打包的文件，在 ComfyUI 里放大图片和视频，提供多种精度格式。适合在自己电脑上用 ComfyUI 做放大的用户。

Raon-1 mini (GGUF)

KRAFTON · 工具包

在 llama.cpp 中运行一个 28.8B 的混合专家模型，针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本，适合在自己电脑上运行模型的人。

SmolLM3-3B

HuggingFaceTB · 工具包

作为小型 3B 开放模型来写作和回答问题，支持可切换的逐步思考、工具调用和长上下文，适合想在自己电脑上用紧凑模型的开发者。

Fibo 2.0

Comfy-Org · 工具包

借助 BRIA AI 重新打包的 Fibo 2.0 文件，在 ComfyUI 里编辑图片，提供 bf16 和 int8 两种版本，以及 Dev 和 Turbo 编辑工作流。适合在自己电脑上用 ComfyUI 的用户。仅限非商业许可。

gemma-4-E4B-it-GGUF

unsloth · 工具包

Google Gemma 4 E4B 指令模型的 4-bit GGUF 版本，由 Unsloth 打包，可在你自己的机器上运行。它能读取文字和图像，并用文字回答。