大模型时代，企业安全建设如何升级？安全人员饭碗不保了吗？

文章预览

编辑 | 蔡芳芳 策划 | 李忠良 如今 AI 大模型可以处理大量的安全数据，通过模式识别和数据挖掘技术，发现潜在的威胁，提供实时威胁情报分析，帮助安全团队快速响应。然而，大模型也带来了新的风险和挑战。例如，生成式人工智能大模型的数据训练和部署应用可能产生有害内容、泄露敏感数据、生成错误信息、滥用实施违法活动等风险。 大模型时代，企业安全建设应该如何做？企业应如何建立完善的合规框架和监管机制？日前 InfoQ《极客有约》X QCon 直播栏目特别邀请了百度杰出架构师 & 安全技术委员会主席包沉浮与雾帜智能联合创始人 傅奎，在 QCon 全球软件开发大会 2024 上海站即将召开之际，针对上述问题展开讨论。 部分精彩观点如下： 机器负责推荐决策，人类负责最终决策。 要对大模型本身的安全性怀有敬畏之心。 只要技术存在 ………………………………