gpt-oss-20b

gpt-oss-20b

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

由 openai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gpt-oss-20b 是 OpenAI 两个开放权重 gpt-oss 模型里较小的一个。它有 21B 参数，其中 3.6B 为活跃参数，面向更低延迟以及本地或专用场景。它能做推理、函数调用和智能体工作。

适合谁：适合想要一个能在自己机器上运行、能为单一任务调优或接入智能体的开放模型的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在应用背后运行本地模型 | 从你自己的电脑提供服务的聊天功能
AI 工程 | 智能体开发者 | 在智能体里使用函数调用和代码执行 | 能浏览网页并运行 Python 的智能体
研究 | 机器学习研究者 | 为窄任务微调模型 | 针对某个领域调优的版本

想要最大模型的人可以跳过它，因为模型卡把重型生产用途指向 gpt-oss-120b。

用在哪里：

• Hugging Face Transformers，用 pipeline 或 Transformers Serve 网络服务器
• vLLM，它会启动一个兼容 OpenAI 的服务器
• PyTorch 和 Triton 参考代码，以及模型卡同样列出的 Ollama
• Windows、macOS 或 Linux，你可以用 Python 下载文件

用途 | 谁用 | 得到什么
本地聊天 | 开发者 | 来自一个在 16 GB 内存内运行的模型的回答
智能体任务 | 智能体开发者 | 函数调用、网页浏览和 Python 代码执行
指定强度的推理 | 研究者 | 低、中或高的推理强度，匹配你的延迟需求

如何设置：

你需要先准备：

• Python 和 huggingface_hub 包
• Transformers 路线用到的 transformers、kernels 和 torch 包
• 约 16 GB 内存，模型卡说 20b 模型能放进这个范围

1. 安装 Hugging Face hub 包并下载模型文件。
2. 安装 Transformers 路线需要的包。
3. 运行 pipeline 代码片段，得到第一条回复。

pip install -U huggingface_hub
hf download openai/gpt-oss-20b

pip install -U transformers kernels torch

from transformers import pipeline
import torch

model_id = "openai/gpt-oss-20b"

pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Explain quantum mechanics clearly and concisely."},
]

outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

如何使用：通过 pipeline 发送聊天消息，或者启动服务器再和它聊天。模型需要 harmony 回复格式。Transformers 的聊天模板会替你套用它。用 model.generate 时要你自己套用。

transformers serve
transformers chat localhost:8000 --model-name-or-path openai/gpt-oss-20b

工具 | 作用
transformers serve | 启动一个兼容 OpenAI 的网络服务器
transformers chat | 与已启动服务的模型开始聊天
vllm serve openai/gpt-oss-20b | 下载模型并启动 vLLM 服务器

示例：你给 pipeline 发一条消息，问哈希表如何用三句话说清楚。代码片段会打印结果的最后一条消息。那就是模型的回复，最长 256 个新 token。

新手与专家：开放权重模型就是文件可以下载并自己运行的模型。第一步可以用上面的 pipeline 代码片段，配一个你自己的简短问题。

对专家来说，这个模型是混合专家设计，21B 参数中有 3.6B 是活跃参数。它在后训练时对专家权重做了 MXFP4 量化，模型卡说它所有评测都用了同样的量化。你可以把推理强度设为低、中或高。模型卡还说完整的思维链可用于调试。

你发送一条聊天消息
聊天模板套用 harmony 格式
模型按你选的强度推理
它可能调用工具或写代码
你读到最终回复

注意事项：

Title: 活跃参数
gpt-oss-20b: 3.6 B
gpt-oss-120b: 5.1 B

• 大小：20.9B 参数，Safetensors 格式，其他人做了 261 个量化版本和 573 个微调版本
• 工具：模型卡列出了函数调用、网页浏览、Python 代码执行和 Structured Outputs
• License: apache-2.0
• Cost to run: 没有提到，不需要 API 密钥或账号
• Data it reaches: 它会从 Hugging Face 下载模型文件，模型卡把网页浏览和 Python 代码执行列为它可用的工具
• Not for: 不用 harmony 格式的使用，模型卡说那样会出问题，也不要把它的思维链展示给最终用户

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：20.9B
• Weights: about 20.9 GB in U8
• Formats: Safetensors
• 最近 30 天下载：5,685,450
• 点赞：5,299
• 许可证：apache-2.0
• Quantized versions: 263
• Fine-tunes: 574
• 标签：transformers, safetensors, gpt_oss, text-generation, vllm, conversational, 8-bit, mxfp4

链接

• 模型：https://huggingface.co/openai/gpt-oss-20b
• 文件：https://huggingface.co/openai/gpt-oss-20b/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download openai/gpt-oss-20b

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。