SDC2024议题聚焦 | ExpAttack大语言模型越狱风险持续追踪框架（内含赠票）

文章预览

· SDC2024 议题预告   · *文末留言赠票 0 1 ExpAttack大语言模型越狱风险持续追踪框架 大语言模型技术和应用正在迅猛发展。一方面，大模型解放了社会生产力；另一方面，它们也带来了不断增加的内容安全风险。作为一项全新的技术，大语言模型的风险会随着时间逐渐显现。 在传统的安全领域，为了应对快速变化的网络攻击并减少来自未来的风险，Gartner引入了CTEM（持续威胁暴露管理）。借鉴Gartner的思路，我们提出了ExpAttack框架，这是一种“可成长”的系统，能够持续监测和追踪大语言模型的越狱风险，本议题将分享ExpAttack框架相关的技术细节。 0 2 演讲嘉宾 Knight 京东蓝军白鵺攻防实验室安全研究员。 多年实战攻防经验，多次参加全国HW、各省市HW，并参与过深信服SRC、字节SRC、GeekCon分享。目前主要研究大语言模型安全以及大语言模型赋能安全。 ………………………………