生成式人工智能大型语言模型的安全性：概述

文章预览

生成性AI大型语言模型（LLMs）的安全性：概述 具有生成性AI能力的大型语言模型（如ChatGPT）正面临加速采用和创新。生成性AI（GAI）的日益普及不可避免地引发了对这些模型相关风险和安全性的担忧。本文从计算机科学家的角度，对GAI-LLMs的最新AI安全研究趋势进行了详尽的综述，内容具体且技术性强。在本综述中，我们探讨了在LLMs作为生成性语言模型的背景和动机下所识别的危害和风险；我们的综述强调了在LLMs研究开发和应用中统一理论以应对不同安全挑战的必要性。 https://arxiv.org/abs/2407.18369 我们首先通过相关文献支持，对LLMs的工作原理进行了简明介绍。然后，我们讨论了早期研究指出的生成性模型的基本限制或缺乏理解（例如，随着LLMs参数数量的增加，性能和安全之间的权衡）。我们充分讨论了LLMs的对齐问题——深入探讨了各种方法、争议 ………………………………