重要的事情说两遍！Prompt「复读机」，显著提高LLM推理能力

文章预览

   新智元报道   编辑：alan 【新智元导读】 尽管大模型能力非凡，但干细活的时候还是比不上人类。为了提高LLM的理解和推理能力，Prompt「复读机」诞生了。 众所周知，人类的本质是复读机。 我们遵循复读机的自我修养：敲黑板，划重点，重要的事情说三遍。 but，事实上同样的方法对付AI也有奇效！ 有研究证明，在提问的时候故意重复一遍——也就是复制粘贴，即可显著提高LLM的推理能力。 论文地址：https://arxiv.org/pdf/2309.06275 看下面的例子： 作者认为，通常情况下，问题中的重点token（比如这里的tennis balls）无法看到位于它后面的token（上图）。 相比之下，使用重读（re-reading，RE2）的方法，允许「tennis balls」在第二遍中看到自己对应的整个问题（How many tennis balls does he have now?），从而达到双向理解的效果（下图）。 实验表明，在14个数据集 ………………………………