中国信通院联合淘天集团发布大语言模型中文安全领域事实性评测数据集

文章预览

在当今迅速发展的人工智能时代，大语言模型在各种应用中发挥着至关重要的作用。大语言模型优异的安全性表现要求其能准确、全面和清晰地理解掌握运用安全知识，尤其是在法律、政策和伦理等敏感领域。具体而言，大语言模型的回复不仅需要符合基本的安全原则和标准，在复杂的情境中还需基于安全原则和标准进行逻辑推理和判断以形成安全性回复。对于安全知识的深刻理解能力将直接关系到大语言模型在现实应用场景中的安全水平。  现有的大语言模型安全评测数据集，往往依赖于特定场景的问题设置，但却未对大语言模型的安全知识理解掌握运用能力进行客观全面评测。在此背景下，为了更好地评估大语言模型在回复简短事实性安全问题上的能力，中国信通院安全研究所联合淘天集团算法技术-未来实验室共同推出Chinese SafetyQA，这是面 ………………………………