gpt-oss-120b

gpt-oss-120b

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

由 openai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gpt-oss-120b 是 OpenAI 的 gpt-oss 系列两个开放权重模型里较大的一个。它有 117B 参数，每次激活 5.1B，面向通用、生产和高强度推理的工作。它较小的兄弟 gpt-oss-20b 用于更低延迟和本地使用。两者都是用 OpenAI 的 harmony 响应格式训练的，需要这种格式才能正确回答。

适合谁：想要一个可以自己托管、微调并商用的强力开放权重模型，并且有大型 GPU 或服务器来运行它的开发者和团队。

Industry | Who uses it | How they use it | Example
软件开发 | 工程师 | 在产品里加入自托管的推理模型 | 跑在私有服务器上的编程助手
企业 IT | 平台团队 | 在内部提供 OpenAI 兼容的接口 | 数据不出公司的内部聊天服务
研究 | 机器学习研究者 | 微调并研究一个开放权重模型 | 把它调到适应某个狭窄的领域
智能体构建 | 智能体开发者 | 使用它的函数调用和工具能力 | 一个调用工具来完成任务的机器人

如果你只有一台笔记本，可以跳过它，因为卡片是按单块 80 GB GPU 来估算的。卡片推荐本地使用较小的 gpt-oss-20b。

用在哪里：

• 用 Python 和 Transformers 库，或它自带的服务器
• vLLM，可以提供 OpenAI 兼容的接口
• PyTorch 和 Triton 的参考代码，以及卡片列出的 Ollama

Use case | Who | What they get back
推理与对话 | 开发者 | 带有可读推理过程的文字回答
工具使用 | 智能体构建者 | 函数调用、网页浏览、Python 运行和结构化输出
微调 | 研究者 | 用你自己的数据训练出的定制模型

如何设置：

• Python 和 pip
• 权重约需 117 GB 磁盘空间
• 按卡片所说，需要一块 80 GB 显存的 GPU，比如 H100 或 MI300X

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 安装 Transformers，再通过文本生成 pipeline 加载模型，或用 vLLM 提供服务。

pip install -U huggingface_hub
hf download openai/gpt-oss-120b
pip install -U transformers kernels torch

如何使用：通过 Transformers 的 pipeline 加载模型并发送聊天消息。Transformers 的聊天模板会替你应用 harmony 格式。如果你直接调用 generate，就要自己应用这种格式，或者使用 OpenAI 的 harmony 包。pipeline 接收模型名、自动的数据类型和设备分配，再加一个聊天消息列表和一个 token 上限，然后返回生成的文字。

要用 vLLM 提供服务，先安装卡片点名的构建版本，再启动服务器。

vllm serve openai/gpt-oss-120b

Tool | What it does
Transformers | 在 Python 里运行模型，并通过聊天模板应用 harmony 格式
vLLM | 为模型启动 OpenAI 兼容的服务器
PyTorch 和 Triton | 运行它的参考代码
Ollama | 卡片列出的另一种运行方式

示例：你给 pipeline 发一条消息，请它清晰简短地解释量子力学。模型以文字回复，结果里的最后一项就是它的回答。

新手与专家：如果你是新手，先从较小的 gpt-oss-20b 开始，它需要的内存少得多。你可以把推理强度设为 low、medium 或 high，在速度和深度之间取舍。

混合专家层的权重在后训练时用了 MXFP4 量化，所以 120b 模型才能放进一块 80 GB 的 GPU。卡片说它所有的评测都用了同一种量化。完整的思维链是可见的，方便调试，但卡片说它不是要展示给最终用户看的。

你写下聊天消息
harmony 格式把它们包起来
模型按你选的强度推理
它给出回答或调用工具

注意事项：

• 格式：模型只有配合 harmony 响应格式才能正确工作
• 推理：每次使用时选择 low、medium 或 high 强度
• 变体：Hugging Face 的记录列出了别人做的 136 个量化版本和 127 个微调版本

Title: 两个 gpt-oss 模型的参数量，单位十亿
gpt-oss-120b total: 117 billion
gpt-oss-20b total: 21 billion
gpt-oss-120b active: 5.1 billion
gpt-oss-20b active: 3.6 billion

• License: apache-2.0，没有 copyleft 限制
• Cost to run: 自托管没有提到 API 密钥或付费服务，但模型需要大型 GPU
• Data it reaches: 下载会取回模型文件，模型会读取你给它的文字。卡片说，开启浏览和 Python 工具后，它们可以访问更多内容
• Not for: 把它原始的思维链展示给最终用户，或在小型机器上运行

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：117B
• Weights: about 117 GB in U8
• Formats: Safetensors
• 最近 30 天下载：2,435,242
• 点赞：5,509
• 许可证：apache-2.0
• Quantized versions: 136
• Fine-tunes: 127
• 标签：transformers, safetensors, gpt_oss, text-generation, vllm, conversational, 8-bit, mxfp4

链接

• 模型：https://huggingface.co/openai/gpt-oss-120b
• 文件：https://huggingface.co/openai/gpt-oss-120b/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download openai/gpt-oss-120b

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。