Qwen3-Coder-Next

Qwen3-Coder-Next

作为编程智能体模型使用，总参数 80B、激活参数 3B，上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3-Coder-Next 是 Qwen 团队推出的开放权重语言模型，面向编程智能体和本地开发。它总共有 80B 参数，每个 token 只激活 3B。模型卡称它的表现可与激活参数多 10 到 20 倍的模型相当。

适合谁：想自己托管编程智能体模型，并接入现有工具的开发者和团队。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 让编程智能体对接本地模型 | 让智能体编辑项目里的文件
开发工具 | 平台团队 | 在兼容 OpenAI 的 API 后面提供模型服务 | 让 IDE 助手指向这个端点
研究 | AI 工程师 | 研究混合专家结构的编程模型 | 和其他编程模型做比较

如果你没有多 GPU 或大内存的机器，可以跳过自己托管。

用在哪里：

• 模型卡点名的 CLI 和 IDE 工具，包括 Claude Code、Qwen Code、Qoder、Kilo、Trae 和 Cline
• Ollama 和 LMStudio，模型卡说它们也支持 Qwen3 系列
• MLX-LM、llama.cpp 和 KTransformers，列法相同
• SGLang 或 vLLM，它们可以在兼容 OpenAI 的 API 后面提供服务

Use case | Who | What they get back
编程智能体 | 开发者 | 能规划、调用工具并从失败中恢复的智能体
本地开发 | 开发者 | 来自你自己机器上模型的代码帮助
API 托管 | 平台团队 | 一个兼容 OpenAI 的端点

如何设置：

• 带 pip 的 Python
• 较新的 transformers 版本
• 大内存，BF16 权重约 159 GB，4-bit 约 39.8 GB（估算值）
• sglang 0.5.8 或更新版本，只有想提供服务时才需要

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 运行下面的 Python 代码，或者安装 SGLang 并启动服务器。

pip install -U huggingface_hub
hf download Qwen/Qwen3-Coder-Next

要提供服务，模型卡给出了这两条 SGLang 命令。

pip install 'sglang[all]>=v0.5.8'
python -m sglang.launch_server --model Qwen/Qwen3-Coder-Next --port 30000 --tp-size 2 --tool-call-parser qwen3_coder

如何使用：通过聊天模板发送一条用户消息，生成，再解码新的 token。如果内存不够，就缩短上下文，例如缩到 32,768。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-Coder-Next"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
  model_name,
  torch_dtype="auto",
  device_map="auto"
)

# prepare the model input
prompt = "Write a quick sort algorithm."
messages = [
  {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
  messages,
  tokenize=False,
  add_generation_prompt=True,
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=65536
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()

content = tokenizer.decode(output_ids, skip_special_tokens=True)

print("content:", content)

Tool | What it does
sglang.launch_server | 启动兼容 OpenAI 的模型服务器
--tool-call-parser qwen3_coder | 解析模型的工具调用
--port 30000 | 设置服务器监听的端口

示例：你原样运行这段代码，它请模型写一个快速排序算法。脚本会在 content 标签后打印模型的回答。

新手与专家：如果你是新手，要知道这个模型是为智能体设计的，所以用上面列出的托管工具比自己托管更容易上手。权重需要大量内存。

如果你是专家，模型交替使用 Gated DeltaNet 和 Gated Attention 层，每层后面接一个混合专家。模型卡列出 48 层、512 个专家（激活 10 个，共享 1 个），以及原生 262,144 个 token 的上下文。

智能体工具发来一个编程任务
服务器应用聊天模板
每个 token 由 512 个专家中的少数几个处理
回复或工具调用被送回去

注意事项：这个模型只支持非思考模式，不写 think 块。

Title: 模型卡中的参数量
总参数量: 80 十亿
激活参数量: 3 十亿

• License: Apache 2.0，与 Hugging Face 记录一致。
• Cost to run: 没有提到 API 密钥或账号。你需要能放下权重的硬件。
• Data it reaches: 下载会访问 Hugging Face。模型本身不会主动联网，但围绕它的智能体工具可能会接触你的文件。
• Not for: 思考模式，模型卡说不支持。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：79.7B
• Weights: about 159 GB in BF16; about 39.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：423,853
• 点赞：1,741
• 许可证：apache-2.0
• Quantized versions: 120
• Fine-tunes: 43
• 标签：transformers, safetensors, qwen3_next, text-generation, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3-Coder-Next
• 文件：https://huggingface.co/Qwen/Qwen3-Coder-Next/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3-Coder-Next

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。