思维链（COT）提示
输入“/”快速插入内容
思维链（COT）提示
思维链（COT）提示
飞书用户77422024年7月26日修改
译者注：
本文为论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》的中文精校解读
这篇论文是思维链提示（Chain-of-Thought Prompting）概念的开山之作，是现任谷歌大脑研究员的Jason Wei在22年1月发布在arxiv上面的文章，当时 NLP Prompt learning 兴起已开始大约两年时间，OepenAI 彼时刚刚推出GPT-3 的第二个大版本更新不久，作者等人在这样的大背景下提出了思维链这个概念。
—— 感谢Raven对本译文的贡献。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
(思维链提示技术引发大型语言模型的推理能力)
摘要
我们探索了如何生成一个思维链 — 一系列中间推理步骤 — 如何显著提高大型语言模型进行复杂推理的能力。特别是，我们展示了如何通过一种简单的方法 — 思维链提示技术，在足够大的语言模型中自然地产生这种推理能力，其中在提示中提供了几个思维链的示例。
在三个大型语言模型上的实验显示，思维链提示技术提高了在一系列算术、常识和符号推理任务上的表现。实证增益可以是显著的。例如，只用八个思维链示例提示PaLM 540B可以在GSM8K数学文字问题基准测试中达到最先进的准确率，甚至超过了经过微调的GPT-3和验证器。
标准提示
💡
模型输入
问：罗杰有5个网球。他又买了2罐网球。每个罐子里有3个网球。他现在有多少个网球？
答：答案是11。
问：食堂有23个苹果。如果他们用20个做午餐，再买6个，他们有多少个苹果？
思维链提示
💡
模型输入
问：罗杰有5个网球。他又买了2罐网球。每个罐子里有3个网球。他现在有多少个网球？
答：罗杰开始有5个球。2罐3个网球，每罐6个网球。5 + 6 = 11。答案是11。
问：食堂有23个苹果。如果他们用20个做午餐，再买6个，他们有多少个苹果？
💡
模型输出
答：答案是27。
×
💡
模型输出
答：食堂原来有23个苹果。他们用20个来做午餐。所以他们有 23 - 20 = 3。他们又买了 6 个苹果，所以他们有 3 + 6 = 9。答案是9。
√
图1：思维链提示技术使大型语言模型能够处理复杂的算术、常识和符号推理任务。突出显示了思维链推理过程。
1.
引言
NLP（自然语言处理）领域近年来由于语言模型（例如Peters等人，2018年；Devlin等人，2019年；Brown等人，2020年等）的出现而发生了革命性的变化。放大语言模型的规模已被证明能带来一系列好处，如提升性能和样本效率（Kaplan等人，2020年；Brown等人，2020年等）。然而，仅仅放大模型规模还不足以在诸如算术、常识和符号推理等挑战性任务上取得高性能（Rae等人，2021年）。
这项工作探索了两个概念如何简单地解锁大型语言模型的推理能力。首先，算术推理技术可以从生成导致最终答案的自然语言解释中受益。先前的工作通过从头开始训练（Ling等人，2017年）或微调预训练模型（Cobbe等人，2021年）使模型能够生成自然语言的中间步骤，此外还有使用形式语言而非自然语言的神经-符号方法（Roy和Roth，2015年；Chiang和Chen，2019年；Amini等人，2019年；Chen等人，2019年）。其次，大型语言模型提供了通过提示进行上下文内少量样本学习的激动人心的前景。即，不需要为每个新任务微调一个单独的语言模型检查点，而只需用几个输入-输出样例“提示”模型。令人惊讶的是，这种方法在一系列简单的问答回答任务上已经成功（Brown等人，2020年）。
然而，上述两个想法都有关键的局限性。对于带有解释的训练和微调方法，创建一大套高质量的解释是代价高昂的，这比正常机器学习中使用的简单输入-输出对要复杂得多。对于Brown等人（2020年）中使用的传统少量样本提示方法，它在需要推理能力的任务上表现不佳，并且通常不会随着语言模型规模的增加而显著改善（Rae等人，2021年）。在这篇论文中，我们以一种避免这些局限性的方式结合了这两个想法的优点。具体来说，我们探索了语言模型在给定由三元组组成的提示：〈输入，思维链，输出〉的推理任务中进行少量样本提示的能力。思维链是一系列导致最终输出的中间自然语言推理步骤，我们将这种方法称为思维链提示。图1中显示了一个示例提示。
我们在算术、常识和符号推理基准测试上进行了实证评估，结果显示思维链提示优于标准提示，有时甚至达到令人惊讶的程度。图2举例说明了这样一个结果——在数学词问题的GSM8K基准测试（Cobbe等人，2021年）上，配备PaLM 540B的思维链提示大幅优于标准提示，并达到了新的最佳性能。仅使用提示的方法之所以重要，是因为它不需要大量的训练数据集，并且单个模型检查点可以在不失去通用性的情况下执行多个任务。这项工作强调了大型语言模型如何通过少量与任务相关的自然语言数据（与通过大型训练数据集自动学习输入和输出底层模式相比）进行学习。