《大型语言模型保护措施》综述

文章预览

在蓬勃发展的大型语言模型（LLMs）领域，开发一种健全的安全机制，也就是俗称的“保护措施”或“护栏”，已成为确保LLMs在规定范围内伦理使用的当务之急。本文对这一关键机制的当前状态进行了系统的文献综述。 文章讨论了其主要挑战，并探讨了如何将其增强为一个全面的机制，以应对各种情境下的伦理问题 。首先，本文阐明了主要LLM服务提供商和开源社区所采用的现有保护机制的现状。接着，本文介绍了评估、分析和增强护栏可能需要执行的一些（不）理想属性的技术，例如幻觉、公平性、隐私等。在此基础上，我们回顾了绕过这些控制（即攻击）、防御攻击以及强化护栏的技术。尽管上述技术代表了当前的状态和活跃的研究趋势，我们还讨论了一些不能轻易用这些方法处理的挑战，并提出了我们对如何通过充分考虑多学科方法、神经- ………………………………