论文浅尝 | 从最少到最多的提示可在大型语言模型中实现复杂的推理

文章预览

笔记整理：王泽元，浙江大学博士 链接：https://openreview.net/forum?id=WZH7099tgfM 1. 动机 尽管深度学习已经取得了巨大的成功，但它与人类智慧仍然存在一些明显差距。这些差距包括以下几个方面：1）学习新任务：人类可以通过很少的示例快速学会新任务，而机器学习通常需要大量已标记的数据来完成相同的任务。2）逻辑解释：人类能够清晰地解释他们的思维过程，但机器学习似乎像一个黑盒，我们难以理解其中的工作原理。3）处理复杂问题：人类能够解决比以前遇到的更具挑战性的问题，而机器学习在训练和测试上遇到的难度大致相等。为了克服这些问题，研究人员提出了一种称为“从最少到最多提示”的方法。这个方法包括两个关键步骤：1）将复杂任务分解成一系列更简单的子任务，然后2）按照顺序逐一解决这些子任务。这有助于模型逐渐理解 ………………………………