今天看啥  ›  专栏  ›  字节跳动技术团队

NDSS 2025|Prompt泄露风险:抖音集团安全研究团队揭露多租户KV缓存共享漏洞

字节跳动技术团队  · 公众号  ·  · 2024-12-23 18:01
    

文章预览

抖音集团安全研究团队和南方科技大学可信系统安全实验室合作的研究论文揭示了大语言模型安全领域服务框架的侧信道漏洞,利用多租户场景下的KV缓存共享机制精确恢复了用户提示词。 本工作成果《I Know What You Asked: Prompt Leakage via KV-Cache Sharing in Multi-Tenant LLM Serving 》已被安全领域顶级会议NDSS 2025接收。 一、研究背景 大语言模型(LLM)在自然语言处理任务中取得了显著进展,广泛应用于文本生成、翻译、问答等领域,吸引了学术界和工业界的高度关注。这些模型在提供高效、准确的语言处理服务的同时,也面临着由于计算资源需求巨大所带来的性能瓶颈。 为了满足不同用户的使用需求,优化资源利用率,大量多租户LLM框架应运而生,通过共享资源和更高效的调度算法,实现性能和成本的有效优化。 在众多多租户LLM的框架中,一个广泛应用的技 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览