浏览 AI 技能、智能体和自动化

DataWorld-35B-A3B

Zhanli-Li · 工具包

用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型，面向会调用工具的智能体。适合部署大型混合专家模型的团队。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

GLM-5.3-Flash EXL3 4bpw for TensorFold

Mia-AiLab · 工具包

为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版，在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。

DeepSeek-V4.1-Flash-1017-FLARE

local-inference-lab · 工具包

为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包，支持文本和图片，提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。

Flint-DFlash2

incoai · 工具包

一个 403M 参数的草稿模型，用 SGLang 里的推测解码加快 Flint 语言模型的服务速度，并且不改变输出。它不是独立的模型。

Qwen3.8-27B-NVFP4-DGX-SPARK

autotrust · 工具包

在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍，权重不变，只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。

gemma-4-31B-it-qat-GGUF

unsloth · 工具包

用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型，自带用于推测解码的草稿模型，可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。

Kimi-K3.1-Dflash2-Preview

RadixArk · 工具包

通过起草一块 token 让主模型一次验证，来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型，与目标模型配合使用，不是独立的语言模型。

Ling-3.1-flash-DSpark

AQ-MedAI · 工具包

一个小型草稿模型，通过 SGLang 里的推测解码加速 Ling-3.1-Flash，每次草拟 5 个或 7 个 token。适合在 NVIDIA GPU 上部署 Ling-3.1-Flash 的团队。

Ling-3.1-flash-1019

inclusionAI · 工具包

处理科学和智能体任务，总参数 560B，激活参数 25B，上下文 1M token，在 Ling-3.1-flash 基础上进一步调优。服务示例使用多 GPU 服务器上的 SGLang 和 vLLM，采用 MIT 许可。

Ling-3.1-flash

inclusionAI · 工具包

处理复杂的智能体、搜索、办公和编程工作，总参数 560B，激活参数 25B，上下文 1M token。服务示例使用多 GPU 服务器上的 SGLang，权重以 MIT 许可开放。

Qwen3.8-27B-DFlash2

z-lab · 工具包

一个草稿模型，通过提出一整块词元让主模型检查，来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。

Qwen3.8-27B-NVFP4

unsloth · 工具包

Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本，用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

sched-sim

prajwalpujari16 · 工具包

一个 LLM 服务调度器的浏览器模拟器，用动画甘特图比较连续批处理、分块预填充、最短作业优先和分离式服务。适合工程师和学生。

RunsOnMine

prajwalpujari16 · 工具包

一个浏览器端的 LLM 服务基准注册表，数据取自消费级 GPU，双 Tesla T4 和 RTX 3050 笔记本，带并发扩展曲线，还能提交你自己的测量结果。

mini-infer

prajwalpujari16 · 工具包

一个浏览器工作室，模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。