中国信通院发布《大模型安全研究报告（2024年）》

文章预览

大模型 当前，由ChatGPT引发的全球大模型技术竞赛正推动人工智能由专用弱智能向通用强智能迈进，这不仅标志着智能水平的显著提升，也预示着人机交互方式和应用研发模式的重大变革。大模型在各行各业的广泛应用，为第四次工业革命的爆发提供了蓬勃动力和创新潜力。 来源 | 阿里云、中国信通院（转载请注明来源） 近日，阿里云联合中国信息通信研究院等30余家行业单位共同编制发布《大模型安全研究报告（2024年）》。 报告指出，大模型在训练数据、算法模型、系统平台和业务应用等方面面临多重安全挑战。其中包括训练数据的违规获取、含有违法不良信息、数据投毒、质量低下以及缺乏多样性等问题；算法模型则存在鲁棒性不足、出现“幻觉”现象、存在偏见和歧视、可解释性差的风险；系统平台方面，则需防范机器学习框架和开发工 ………………………………