AI 智能体技能、规则与提示词工具包

Qwen3.5-35B-A3B

Qwen · 工具包

能读图像和文字的多模态聊天模型，总参数 35B，每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。

Qwen3.8-27B-DFlash2

z-lab · 工具包

一个草稿模型，通过提出一整块词元让主模型检查，来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。

d3-ultra

vllm-sr · 工具包

对同一份文本、图片或视频输入一次回答多个问题，为每个答案给出概率，不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。

Qwen3.6-35B-A3B-NVFP4

nvidia · 工具包

NVIDIA 用 Model Optimizer 制作的、预先量化好的 Alibaba Qwen3.6-35B-A3B 的 NVFP4 版本。它能处理文本、图片和视频，可在 Hopper 或 Blackwell GPU 上用 vLLM 运行。

GLM-5.3-Flash-NVFP4

nvidia · 工具包

提供 NVIDIA 对 ZAI 的 GLM-5.3-Flash 做的 NVFP4 量化版，这是一个用于推理、编码和智能体任务的多模态模型。适合在 Blackwell GPU 上用 vLLM 或 SGLang 部署的开发者。

Qwen3.5-0.8B Astra Weight Edit

JonathanColetti · 工具包

直接编辑两个权重张量，不经训练，修复 Qwen3.5-0.8B 在思考模式下陷入的重复循环。这是一个小型图文模型，可用于 Transformers、vLLM、llama.cpp 和浏览器。

DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000

diffbot · 工具包

在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版，适合在自己硬件上部署大型编程和智能体模型的开发者。

Qwen3.8-27B-NVFP4

unsloth · 工具包

Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本，用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。

hs-decide-1-flash

hindsight-ai · 工具包

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

Axion-1.0-35B

Axion1-0 · 工具包

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

S5-nano

maritaca-ai · 工具包

Maritaca AI 基于 Qwen3.5-4B 制作的葡萄牙语和英语小模型，有 Think 和 Instruct 两种模式，工具使用能力强，这是适用于 vLLM 和 SGLang 的 BF16 版本。适合构建巴西葡萄牙语助手的开发者。

VibeVoice 开源语音模型

microsoft · 工具包

微软的开源语音 AI 模型家族。VibeVoice-ASR 一次转写最长 60 分钟的音频，带说话人和时间戳。VibeVoice-Realtime 把流式文字合成语音。这份说明涵盖演示、vLLM 服务器和微调。

MiniCPM-V 端侧多模态模型

OpenBMB · 工具包

OpenBMB 的开源多模态模型。MiniCPM-V 4.7 能读图片、文档和视频，MiniCPM-o 4.5 还能听、能说。安装说明涵盖 Transformers、Ollama、llama.cpp、vLLM、SGLang、托管 API 和手机应用。