SDC2024议题聚焦|大模型软件生态系统的安全隐患：从传统漏洞到新型威胁（内含赠票）

文章预览

· SDC2024 议题预告   · 0 1 大模型软件生态系统的安全隐患： 从传统漏洞到新型威胁  大模型技术的迅猛发展和广泛应用，催生了一个庞大而复杂的软件生态系统，支撑着大模型的训练、推理、部署和服务。然而，随之而来的安全隐患也逐渐显现。 从"Shadowray"漏洞（CVE-2023-48022）到"Probllama"漏洞（CVE-2024-37032），一系列安全事件揭示了大模型软件生态系统安全的脆弱性。传统的Web攻击如XSS、SQLi在大模型服务中也有新的变种。更需要关注的是，随着Program of Thoughts、function calling等新技术的引入，PoT代码执行、持久性提示劫持、记忆投毒等新型攻击方式正在悄然兴起。这些新功能旨在提升大模型自身的能力，并使其得到更加广泛和便捷的应用。然而，新技术也带来了新的安全挑战，增加了潜在的安全风险与威胁。那么，这些安全风险究竟有多严重？又该 ………………………………