本文介绍了大语言模型中的“思维链”Chain of Thought, CoT技术通过生成中间推理步骤提升模型在算术、常识和符号推理任务上的表现。文章深入解析了CoT的工作原理、适用任务类型及不同方法如Few-shot CoT、Zero-shot CoT等的区别并提供了实战案例——构建可验证的退款计算助手展示如何结合模型与代码实现可靠推理。此外文章还探讨了评估CoT效果的关键指标及注意事项强调思维链仅作为辅助工具需结合外部验证确保结果可信。给模型一道多步计算题直接要求答案它可能脱口而出一个数字。加上一句“请逐步分析”结果有时会明显改善。这就是CoT最容易观察到的效果。CoT是Chain of Thought的缩写中文通常译为“思维链”或“推理链”。它让模型在输出最终答案前先生成一串中间步骤。2022年的原始论文发现向大模型提供带推理步骤的示例可以改善部分算术、常识和符号推理任务的表现Zero-shot CoT随后发现仅加入“Let’s think step by step”这样的指令也能在当时测试的部分模型和数据集上带来提升。图1CoT论文Figure 1相同题目下标准提示直接给出错误答案带推理示例的提示先生成中间计算再得到正确答案。来源Wei等《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》。不过“让模型多说几步”只是表面现象。要把CoT用于真实系统还得回答几个更具体的问题中间Token为什么会帮助推理哪些任务适合思维链写错了怎么办怎样证明最终结果可信01 CoT到底是什么先分清内部计算、可见推理轨迹与面向用户的推理摘要。语言模型按顺序预测下一个Token。直接回答时模型要从问题跳到结论使用CoT时它会先生成中间结论再把这些结论放进后续上下文。可以把两种生成路径写成直接回答直接回答问题 → 最终答案CoT路径CoT问题 → 中间步骤1 → 中间步骤2 → 最终答案这些中间Token相当于一块临时草稿区。后面的生成可以读取前面已经写出的变量、子结论和约束不必一次完成全部映射。先划清推理轨迹的边界但需要划清一条边界可读的思维链不是神经网络内部计算的完整录像。模型真正的计算发生在隐藏状态和参数中输出的文字只是一条生成轨迹。它可能帮助模型求解也可能只是事后组织出来的解释。所以工程上最好把三个概念分开内部计算发生在模型隐藏状态中的数值运算无法靠阅读文字完整还原CoT轨迹模型生成的中间Token可以参与后续预测推理摘要面向用户展示的关键步骤用来说明依据和方便复核。三者有关联但不能画等号。02 中间Token为什么能帮助推理分解任务、保存中间状态并延长计算路径但不承诺正确。第一种作用是任务分解。复杂问题往往同时包含多个条件。直接回答要求模型一次选中正确结果CoT则允许它先解决局部问题。例如先识别优惠规则再计算分摊金额最后判断运费能否退还。每一步的搜索空间更小。第二种作用是延长计算路径。自回归模型每生成一个Token都会再运行一次前向计算。Google Research在2026年的闭卷问答实验中发现即使把自然推理替换成没有事实含义的重复文本额外Token仍能改善部分事实召回说明中间Token可以提供“计算缓冲”自然推理中的相关事实还会产生事实启动效应帮助模型找到目标答案。研究结果有适用范围实验集中在Gemini 2.5、Qwen3-32B和两个闭卷问答数据集不能推导为“只要生成更多Token任何问题都会更准”。论文同时观察到边际收益递减中间事实一旦出现幻觉最终答案反而更容易被带偏。第三种作用是让模型复用训练中见过的解题结构。数学证明、代码调试和规则判断都有常见步骤。推理示例会把模型引向这些模式而不是直接猜结论。图2中间Token把复杂问题拆成子问题在上下文里保存局部结论并为后续生成增加计算路径最右侧仍需验证最终答案。03 常见CoT方法有什么区别从直接回答到搜索与工具调用复杂度应随任务结构增加。方法核心做法适合任务主要代价Few-shot CoT在提示词中提供带步骤的示例任务格式稳定、规则明确示例占上下文错误示例会误导模型Zero-shot CoT直接要求分步分析快速建立基线控制较弱容易产生冗长解释Least-to-Most先拆成简单子问题再依次求解组合推理、复杂规则子问题拆错会影响后续全部步骤Self-consistency采样多条推理路径对答案投票数学、选择题、可聚合答案模型调用量增加Tree of Thoughts搜索多条候选路径并评估、回退规划、搜索、难题求解实现复杂成本更高ReAct交替生成推理、行动和工具观察搜索、Agent、代码执行需要工具权限、超时和轨迹管理Least-to-Most的重点不是让模型“说得更详细”而是先解决容易的子问题再把答案用于后续步骤。Self-consistency则把一条思维链视为一次随机采样。模型独立生成多条路径再对最终答案做多数投票。原论文在一组算术与常识推理基准上取得提升但这种方法更适合答案可以归一化的任务。开放式报告没有天然的多数答案不能直接套用投票。Tree of Thoughts会显式保留多条候选路径允许评估和回退ReAct则把推理、工具行动和环境观察交替组织起来。前者更像搜索算法后者更适合需要查资料或运行代码的Agent。图3从直接回答开始任务越依赖分解、采样或外部工具分别转向Zero-shot/Few-shot CoT、Least-to-Most、Self-consistency、Tree of Thoughts或ReAct。04 推理模型怎样学会CoT监督数据、结果奖励、过程监督和蒸馏解决的是不同训练问题。提示词只能解释使用阶段。如今的推理模型还会在训练阶段学习怎样展开推理。第一种路线是监督微调。训练数据提供问题、推理过程和答案模型学习模仿完整轨迹。它能改善格式与可读性但数据中的错误步骤也会被学进去。第二种路线是结果奖励。数学答案、代码测试和形式化证明通常可以自动验证。模型生成不同推理路径只要最终结果通过验证就得到奖励。这让模型自行探索有效策略但也可能学到碰巧得分的捷径。DeepSeek-R1报告展示了一个具体案例R1-Zero在没有先做监督微调的情况下通过大规模强化学习出现了自我检查、延长推理等行为正式版R1又加入冷启动数据和多阶段训练以改善可读性、语言混杂等问题。第三种路线是过程监督。它不只看最终答案还给每个中间步骤打分。OpenAI在MATH数据集上的研究中过程监督优于结果监督但研究者也明确指出能否推广到数学之外仍不确定。OpenAI过程监督研究最后是推理蒸馏。大模型先生成推理数据再用这些数据训练小模型。蒸馏能降低部署成本但小模型学到的是数据中出现的轨迹并不意味着复制了教师模型的全部能力。05 实战做一个可验证的退款计算助手让模型提出候选路径让普通代码决定结果能否通过。考虑一条售后规则订单包含三件商品原价分别为120元、80元和50元使用一张满200减30元优惠券优惠按原价比例分摊现在退回120元商品已收取的10元运费不退。退款金额应为120 - 30 × 120 ÷ 250 105.60元这是一个适合CoT的任务因为它包含规则识别、比例分摊和金额计算。真正上线时不能只让模型输出一篇看起来合理的分析。比较稳妥的流程如下。图4结构化输入进入多路径推理候选答案先做Schema解析和多数选择再由确定性规则引擎验算缺少规则、验算失败和重复退款分别进入询问、停止与幂等拦截。01第一步把自然语言规则变成结构化输入程序先提供明确字段而不是让模型从一大段订单描述里猜数字。json{ item_prices: [120, 80, 50], returned_item_price: 120, coupon_discount: 30, coupon_allocation: proportional_to_original_price, shipping_fee: 10, shipping_refundable: false }模型负责理解规则并选择公式字段类型和必填项由普通代码检查。02第二步要求关键步骤不索取长篇“内心独白”提示词可以这样写text根据输入规则计算退款。先拆解规则并完成计算但最终只输出JSON。 必须包含订单原价合计、退货商品分摊优惠、可退运费、最终退款金额、使用的规则ID。 金额保留两位小数条件不足时返回needs_clarification不得补造规则。目标输出json{ original_total: 250.00, allocated_discount: 14.40, refundable_shipping: 0.00, final_refund: 105.60, rule_ids: [coupon_proportional, shipping_nonrefundable], status: completed }这些字段是可验证的推理摘要。它们比一段自由文本更容易解析也不需要把完整原始CoT展示给用户。03第三步对困难样本采样多条路径如果规则更多可以独立生成5份结果对final_refund归一化后投票。pythonfrom collections import Counter from decimal import Decimal, ROUND_HALF_UP def choose_candidate(candidates): valid [c for c in candidates if c.get(status) completed] amounts [Decimal(str(c[final_refund])).quantize(Decimal(0.01), roundingROUND_HALF_UP) for c in valid] if not amounts: return None winner, votes Counter(amounts).most_common(1)[0] return winner if votes 3 else None这里的多数票只是候选选择器不能代替业务校验。五条路径可能同时误解同一条规则。04第四步用确定性代码重新验算金额计算应由Decimal或业务规则引擎完成。验收器重新计算订单总额、优惠分摊和运费逐字段比较模型结果。pythondef verify_refund(data, model_result): prices [Decimal(str(x)) for x in data[item_prices]] total sum(prices) returned Decimal(str(data[returned_item_price])) discount Decimal(str(data[coupon_discount])) allocated (discount * returned / total).quantize(Decimal(0.01), roundingROUND_HALF_UP) shipping Decimal(0.00) if not data[shipping_refundable] else Decimal(str(data[shipping_fee])) expected (returned - allocated shipping).quantize(Decimal(0.01), roundingROUND_HALF_UP) actual Decimal(str(model_result[final_refund])).quantize(Decimal(0.01), roundingROUND_HALF_UP) return actual expected, expected示例采用常见的四舍五入方式真实业务应读取合同或财务系统规定的舍入规则。模型决定怎样理解问题代码决定答案能不能通过验收。两者的职责不要颠倒。05第五步失败时回退而不是继续编常见失败包括JSON解析错误、规则ID不存在、多条路径无法形成多数以及验算不通过。解析错误可以要求模型按原Schema重试一次缺少业务条件时返回人工确认验算失败则把“错误字段、期望值和实际值”交给修复流程。重试仍失败就停止自动退款。在这个例子里退款只是计算结果。如果系统还要真正执行打款打款工具应放在独立审批之后并使用幂等键防止网络重试造成重复退款。06 怎样评估CoT是否真的有用准确率、验算通过率、延迟和成本必须一起看。只看几个成功案例很容易得出错误结论。至少准备一组包含简单题、复杂题、缺失条件和冲突规则的测试集然后比较直接回答、单条CoT、多路径CoT三种方案。建议记录这些指标最终答案准确率结构化结果解析成功率确定性验算通过率多路径结果的一致率平均推理Token、端到端延迟和单次成本缺少条件时正确拒答的比例模型或提示词更新后的回归失败数。如果CoT只增加了Token却没有提高验算通过率就不该默认开启。简单分类、固定字段抽取和单次查表通常直接回答更划算。多步计算、组合规则、规划和工具选择更可能受益。07 思维链为什么不能直接当证据可读推理不一定忠实审计仍要回到来源、工具与规则。“可读不等于忠实”就是一条写得流畅的推理可能仍然是错的。更麻烦的是模型可能受到某条提示影响却没有在思维链中承认。Anthropic在针对Claude 3.7 Sonnet和DeepSeek-R1的提示干预实验中发现两种模型经常使用注入的答案提示却未在CoT中说明。研究使用的是特定模型、选择题和人工提示不能推广到所有任务但足以说明思维链不具备天然的忠实性。因此生产系统应该把CoT当成辅助信号。事实引用要回到原始来源数学和代码要交给验证器高风险动作要经过权限检查。审计日志记录的是输入、模型版本、工具调用、规则版本和验收结果不是一段未经验证的自述。08 落地时可以遵循的决策顺序先做最低成本基线再按失败类型增加推理与验证。先判断任务是否真的需要多步推理。若只是查表或提取字段直接回答。需要拆解时先做单条CoT基线准确率不够再测试Least-to-Most或多路径采样。每增加一种推理策略都同步记录Token和延迟。最终答案如果能被代码、测试用例、数据库约束或外部来源验证就把验证放在模型之外。无法自动验证的开放任务至少要求引用证据并抽样人工复核。最后不要强迫每个请求使用同一档推理预算。简单任务快速回答困难任务才增加采样数和推理长度。CoT的价值不在于让答案显得更认真而是给难题增加一条可检验的求解路径。09 写在最后CoT的价值是增加一条可检验路径不是让答案显得更认真。CoT利用中间Token保存局部结论、拆分问题并延长模型的计算路径。它可以通过提示词临时激发也可以通过监督微调、强化学习、过程监督和蒸馏进入模型训练。但CoT本身没有正确性保证。中间步骤可能出错长推理可能浪费计算解释也不一定忠实。真正可落地的组合很朴素模型负责提出推理路径结构化输出负责留下可检查的中间量普通代码负责验算失败流程决定何时重试、询问或停止。做到这里思维链才从一句提示词技巧变成一项可评估的工程能力。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取
