promptgarten 🌱
🌍 DE
术语●●○5 分钟 · +40 XP

推理模型(Reasoning Models):AI先思考,再回答

Claude的扩展思考(Extended Thinking)、OpenAI的o系列及GPT-5-Thinking、DeepSeek-R1——推理模型会在回答之前进行或明或暗的运算。

基本原理

普通的语言模型直接逐Token生成回答。而推理模型(或称思考模型,Thinking Model)会在此之前加入一个额外的思考步骤:在给出正式回答之前,先进行一段较长的内部论证链。在Claude中这叫扩展思考(Extended Thinking),在OpenAI中通过o系列或GPT-5-Thinking模型实现,可调节“推理强度”(Reasoning Effort),在DeepSeek中则通过R1系列实现。

可见或不可见

有些厂商会展示思考步骤(Claude的扩展思考会输出可查看的思考区块),有些则只给出摘要或完全隐藏,只提供最终结果。无论哪种方式,思考所用的Token都算在消耗之内,即使你看不到它们。

思考预算(Thinking Budget)

模型“思考”多少,通常可以通过一个预算设置来控制——在Claude中是budget_tokens,在OpenAI中是reasoning.effort(例如low、medium、high)。更大的预算能在复杂任务中提升质量,但会消耗更多时间和Token。

什么时候值得使用推理

对于复杂的规划、多步骤调试或高难度数学问题,额外的思考能明显改善结果。而对于简单的编辑或琐碎的问题,推理模式通常只会带来更高的成本和更长的等待时间,却不会改善回答质量。

示例

Claude API(伪代码):thinking={\"type\": \"enabled\", \"budget_tokens\": 10000} OpenAI API(伪代码):reasoning={\"effort\": \"medium\"} 这两个参数都用来控制在给出可见回答之前,允许多少内部思考开销——对付一个多步骤的bug很有用,但对“改一下这个变量名”这种任务则没有必要。

🛠️ 练习——自己动手试试

用同一个复杂任务分别测试开启和关闭扩展思考的情况,比较结果、耗时和Token消耗。

  1. 选一个多步骤的任务,例如一道逻辑谜题,或一个可能有多种成因的bug。
  2. 先在不开启推理的标准模式下解决它。
  3. 再用开启扩展思考、设置适中预算(例如8000–16000个Token)的方式重新解决同一个任务。
  4. 比较两次回答的内容质量以及所需时间。

自查清单

  • 推理模式的回答在内容上是否比标准模式的回答更正确或更全面?
  • 对于这个具体任务而言,额外花费的时间是否值得?

小测验

像Claude的扩展思考这样的推理模型,最适合用在什么场景?

分享:𝕏in💬

来源

相关主题

Temperature 和 Sampling(采样):模型的回答有多随机? ●●○选哪个模型,选哪个套餐? ●○○AI agent 的成本控制 ●●○专家混合(Mixture of Experts,MoE):为什么大模型不会一次性激活全部参数 ●●●