SDC2024 议题回顾 | 大模型软件生态系统的安全隐患：从传统漏洞到新型威胁

文章预览

“ 大模型技术的迅猛发展和广泛应用，催生了一个庞大而复杂的软件生态系统，支撑着大模型的训练、推理、部署和服务。然而，随之而来的安全隐患也逐渐显现。 从"Shadowray"漏洞（CVE-2023-48022）到"Probllama"漏洞（CVE-2024-37032），一系列安全事件揭示了大模型软件生态系统安全的脆弱性。 ” 一起来回顾下 刘昭 在SDC2024 上发表的议题演讲： 《大模型软件生态系统的安全隐患：从传统漏洞到新型威胁》 刘昭，360 AI安全实验室高级专家 主要研究方向为人工智能安全、软件分析、漏洞挖掘与利用，曾挖掘谷歌、Meta、高通等多家厂商漏洞80余个。 *以下为速记全文 大家好，我是来自360 AI安全实验室的刘昭，今天给大家分享一下我们在大模型软件生态系统的研究与发现。首先介绍一下360 AI安全实验室，主要关注整个AI系统的安全，例如大模型越狱提示测评 ………………………………