什么是推理模型：先思考，再回答的 AI

开始之前

前半部分用任何带“思考”开关的聊天应用就能做。后半部分只用到 OpenAI，需要 Python 3、安装好 openai 包，并在环境变量里设置好 OpenAI 的 API 密钥。

token 是模型读写文字的单位，通常是一个词或词的一部分。如果你还不熟悉，可以先读AI 里的 token 是什么。

在响应里看见思考

给推理模型问一个一句话的问题，回复看起来和别的模型没什么两样。区别在随回复一起返回的用量数字里。OpenAI 的推理指南说，它的推理模型会先用推理 token 思考再回答，确切的数量可以在响应的 usage 对象里看到。

下面的调用就是指南自带的摘要示例。它请求一段思考摘要，并把整个 usage 对象打印在旁边。

from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6-astra",
    input="What is the capital of France?",
    reasoning={"effort": "low", "summary": "auto"},
)

print(response.output)
print(response.usage)  # this line is the lesson's own

1. 在带思考开关的聊天应用里，把同一个多步问题问两遍，一次关闭思考，一次打开。DeepSeek 的聊天网站 chat.deepseek.com 把这个开关叫作 DeepThink。
2. 走代码这条路，先运行 pip install openai，并确认已经设置了 OPENAI_API_KEY。
3. 运行上面的调用。如果摘要那一项报错，就删掉 "summary": "auto" 再运行一次。
4. 在打印出来的 usage 里找到 output_tokens_details.reasoning_tokens，把它和 output_tokens 放在一起看。
5. 把 "effort": "low" 改成 "high"，用同一个问题再运行一次，比较两次的推理 token 数。

token 都花到哪里去了

OpenAI 把思考描述为模型在做规划、有效使用工具、检查不同方案、从含糊的要求中恢复，以及解决更难的多步任务。推理 token 不会通过 API 返回，却仍然占用上下文窗口的空间，并按输出 token 计费。

指南里的用量示例说明了这意味着什么。1,186 个输出 token 里，有 1,024 个是推理，响应里的其他内容只占 162 个。这笔输出费用大部分花在了你从没读到的文字上。

Anthropic 在 2025 年 2 月 24 日随 Claude 3.7 Sonnet 发布的扩展思考文章里，对 Claude 的说法不同。扩展思考并不是切换到另一个策略不同的模型，而是让同一个模型给自己更多时间和精力去得出答案。

{
  "usage": {
    "input_tokens": 75,
    "input_tokens_details": {
      "cached_tokens": 0
    },
    "output_tokens": 1186,
    "output_tokens_details": {
      "reasoning_tokens": 1024
    },
    "total_tokens": 1261
  }
}

四家厂商，四种看到思考的方式

思路是共通的。接口却不一样。给一家服务商写的回复解析代码读不了另一家的回复，所以解析之前先看这张表。

为什么多想有用，又在哪里最有用

测试时算力指模型在回答时花掉的算力，和训练时花掉的算力相对。论文Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters发表于 2024 年 8 月。它研究的是：给模型一份固定的、不算少的测试时算力，它在难题上能进步多少。论文摘要没有写出测试了哪些模型，所以下面的数字要当作 2024 年的研究结果来读，不要当作对今天模型的断言。

答案取决于题目有多难。按题目选择方法，让测试时算力的效率比 best-of-N 基线高出四倍多，best-of-N 就是对同一道题采样 N 个答案、留下最好的那个。在算力对等的比较里，较小的模型在某道题上本来就有一些成功率的话，多想一会儿就能胜过大 14 倍的模型。

DeepSeek 的 R1 模型卡于 2025 年 1 月发布在 Hugging Face 上，让你能比较两个同样大小的模型。R1 以 DeepSeek-V3-Base 为基础，经过两轮强化学习和两轮监督微调的流程训练出来。它和 DeepSeek-V3 一样，总共 6710 亿参数、激活 370 亿，模型卡的评测表把两者并排列出。把这一对当作“前后对比”，是本课自己的看法。模型卡没有这样说。

在难度很高的竞赛数学测试 AIME 2024 上，差距是 40 分，在 MATH-500 上是 7 分，因为 V3 在那里已经有 90 分。基础模型本来就强的地方，提升会变小。Anthropic 在同一个模型内部看到了类似的曲线。Claude 3.7 Sonnet 在 AIME 2024 题目上的准确率，随着允许它使用的思考 token 数按对数增长。

常见错误

• 只看可见的答案来估算成本。思考按输出计费，你读到的文字会低估一次调用的花费。
• 把摘要当成模型完整的推理。OpenAI 不公开原始 token，Anthropic 也指出思考文字里可能有不正确或不成熟的想法。思维链提示一课讲了展示出来的推理能信到什么程度。
• 在不提供摘要的模型或账号上请求摘要。OpenAI 说要先查模型文档，摘要还可能需要组织认证。
• 把 DeepSeek 的那张表直接套到今天的模型上。它是 DeepSeek 自己在 2025 年 1 月做的评测。用它看规律，不要用它挑模型。

自己试一试

• 用 low 和 high 两种强度运行 Python 调用，问题选需要三四步的，记下两次的推理 token 数。
• 在聊天应用里先关闭思考、再打开思考，问同一个问题，看你更愿意把哪个答案发给同事。
• 打开 DeepSeek-R1 模型卡，读它的评测表，找一行 V3 分数低于 R1 的，再找一行 V3 分数高于 R1 的。

下一课：写推理模型喜欢的提示词

看得见思考之后，下一个问题是提示词里该写什么。下一课讲目标、约束和输出格式，并且从 OpenAI 为推理模型写的一条提示词讲起。

常见问题

资料来源

1. OpenAI Docs: Reasoning models (2026年11月6日 查阅)https://developers.openai.com/api/docs/guides/reasoning
2. OpenAI Docs: Reasoning best practices (2026年11月6日 查阅)https://developers.openai.com/api/docs/guides/reasoning-best-practices
3. Anthropic: Claude's extended thinking (2026年11月6日 查阅)https://www.anthropic.com/news/visible-extended-thinking
4. Anthropic on GitHub: Claude cookbooks, Extended Thinking (2026年11月6日 查阅)https://github.com/anthropics/claude-cookbooks/blob/main/extended_thinking/extended_thinking.ipynb
5. Google Gemini on GitHub: Get started with thinking (2026年11月6日 查阅)https://github.com/google-gemini/cookbook/blob/main/quickstarts/Get_started_thinking.ipynb
6. Hugging Face: DeepSeek-R1 model card (2026年11月6日 查阅)https://huggingface.co/deepseek-ai/DeepSeek-R1
7. Hugging Face Papers: Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (2024) (2026年11月6日 查阅)https://huggingface.co/papers/2408.03314