AI Safety Benchmark大模型安全基准测试Q3版结果发布

文章预览

多模态大模型不仅能够处理文本、图像、语音等多种数据形式，还能赋能各行业的创新应用。然而，随着大模型技术的快速发展，多模态大模型也因其技术特性而面临严峻的安全挑战。例如，多模态大模型涉及多个输入模态，攻击者可以通过对单一模态和组合模态进行对抗扰动，获得更大的攻击面。因此，在推动多模态大模型技术发展的同时，加强安全防护措施，确保其在实际应用中的安全性和稳定性显得尤为重要。 面向产业界对人工智能应用安全问题的治理需求，中国信息通信研究院（简称“中国信通院”）联合30余家单位依托中国人工智能产业发展联盟（简称“AIIA”）安全治理委员会发起了大模型安全基准测试（AI Safety Benchmark）Q3版测试工作。本次测试以图文多模态内容安全为核心测评目标，从两个测试维度对多模态大模型输出进行安全测试 ………………………………