提示工程策略：利用【慢思考】的双过程理论减少模型有害输出

文章预览

提示工程策略：利用【慢思考】的双过程理论减少模型有害输出 发布时间：2024 年 04 月 26 日 Prompting Techniques for Reducing Social Bias in LLMs through System 1 and System 2 Cognitive Processes 双过程理论将人类认知分为两个系统：快速、情感化的系统 1 和缓慢、深思熟虑的系统 2。NLP 研究中，零-shot 提示常被比作系统 1，而思维链提示则对应系统 2。研究发现，CoT 提示能减少 LLM 中的性别偏见。我们探讨了 LLM 中偏见、CoT 提示与双过程理论的关系，并在两个涵盖九大社会偏见类别的数据集上比较了不同提示策略。通过人类与机器角色，我们探究这些效果是模拟人类认知还是系统固有。结果显示，人类角色、系统 2 及 CoT 提示均能减少社会偏见，但最佳组合因模型和偏见类别而异，最多可使刻板印象判断降低 13%。 https://arxiv.org//pdf/2404.17218 1. 思考的快与慢 诺贝尔经济学 ………………………………