开发者 AI 技能与智能体

Qwen3.8-27B-DFlash2

incoai · 工具包

通过起草一整块 token 让主模型验证，来加速 Qwen3.8-27B，输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型，不是独立的聊天模型。

Ling-3.0-tiny-GGUF

inclusionAI · 工具包

inclusionAI 的 Ling-3.0-tiny 的 GGUF 副本。这是一个小型混合专家推理模型，总参数 7.9B，激活参数 1.3B，适合低成本本地运行。

Bespoke-Nimble-9B

bespokelabs · 工具包

用 Qwen3.5-9B 上的 LoRA 适配器，根据一段文字给是非题、选择题和评分等级打分。适合需要返回概率而不是自由文本的分类器的开发者。

NorthCUA-Nano

beipo-ai · 工具包

用基于 Qwen3.5 的 9B 稠密电脑操作模型，通过截图操作桌面和浏览器应用。适合用官方 NorthCUA 运行框架构建电脑操作智能体的开发者。

GLM-4-9B-0414-GGUF

unsloth · 工具包

用 9.4B 的 GLM-4-9B-0414 模型的 GGUF 文件生成中文和英文文本，适合想在自己电脑上运行 GLM 模型的人。

Ornith-1.5-9B

ornith-ai · 工具包

处理编程和终端任务，是一个适合单张 GPU 的 9B 稠密语言模型。适合想用小型开源模型做软件开发的开发者，另有面向手机的移动版本。

Naive-N0.5-Flash

NaiveAI · 工具包

开放权重的混合专家模型，总参数 309B，激活 15.5B，原生 100 万 token 上下文，为编程和 AI 研究而构建。适合在自己服务器上运行大型编程模型的团队。

AREX-2 GGUF

mradermacher · 工具包

BAAI 的 AREX-2（26.9B）的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。

FLUX 3 Image Klein Prompt Upsampler

black-forest-labs · 工具包

一个 9B 模型，把简短的图像请求、最多 10 张参考图和可选的边界框，变成一条给 FLUX 3 Image Klein 用的详细提示词。适用于编辑、文生图和布局工作。

AREX-2-i1-GGUF

mradermacher · 工具包

BAAI/AREX-2（一个 26.9B 的视觉模型）的加权 GGUF 量化版本，约有两打尺寸，从 7.2 GB 到 22.2 GB，另有一个用来制作你自己量化版本的 imatrix 文件。由 mradermacher 制作。

Realtime-Venus

inclusionAI · 工具包

包含两个 9B 模型，用于实时对话，能边听边说，处理打断，并把任务交给外部工具。一个能看视频和听音频，另一个只处理音频。

Slonik

dglhf · 工具包

帮助完成智能体式编码，包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional，适合从事数据库代码和编码智能体的开发者。

Xing4.0-29B-A4B

XingChen-AGI · 工具包

用于生成文本，处理规划和调用工具等多步骤任务，支持中英文和 256K 上下文。这是一个混合专家模型，适合自行部署运行的开发者。

d3-flash

vllm-sr · 工具包

一个 9B 模型，一次调用就能回答关于文字、图像或视频的多个选择、是非和打分问题，并为每个答案返回概率而不是生成文字。适合路由和决策任务。

Qwen3.5-9B-MTP-GGUF

unsloth · 工具包

Qwen3.5 9B 的 GGUF 版本，支持在 llama.cpp 里用多词元预测做推测解码，生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。

Qwen3.5 for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 文本编码器文件夹重新打包的 Qwen3.5 2B、4B 和 9B 模型文件，9B 提供 bf16 和两种量化风格。适合需要 Qwen3.5 文本编码器的 ComfyUI 用户。

Qwen3.8-27B-GGUF

ggml-org · 工具包

以 GGUF 文件形式运行 Qwen3.8-27B，这是一个 26.9B 的模型，能读图片和文字并用文字回复，通过 llama 工具在本机使用，适合想把它放在自己电脑上的你。

MiniCPM-o 4.5

openbmb · 工具包

一个 9B 模型就能处理图片、视频、语音和实时音视频流，并用英文和中文以文字和语音回答。适合构建语音和视觉助手的开发者。

Qwen3.8-9B-Distill-GGUF

empero-ai · 工具包

Empero 的 Qwen3.8-9B 的 GGUF 量化版本，一个由更大的 Qwen3.8 蒸馏到 Qwen3.5-9B 架构里的推理模型，适用于 llama.cpp、Ollama、LM Studio 等工具。

elephant-1

baselabs · 工具包

一次性回答关于某个情境的一组问题，并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 9B 决策模型，由 Qwen3.5-9B 调整而来。