AI安全｜LLM 01 提示词注入

文章预览

0x01 前言 接下来会连续更新关于 LLM OWASP TOP 10 的内容 每一个漏洞我这边都会写一篇详细文章进行说明。这篇文章我们从 LLM OWASP TOP 10 其中的 LLM 01 提示词注入 开始。我将用最简单的内容教会大家什么是提示词注入！ 0x02 LLM 01 概述 大型语言模型 (LLM) 中的提示注入是一种安全攻击技术，其中恶意指令被插入到提示中，导致 LLM 无意中执行操作，其中可能包括泄露敏感信息、执行未经授权的操作或操纵其输出。 对于提示词注入，存在两种类型：直接提示词注入、间接提示词注入 直接提示词注入 ：也称为“越狱”，当恶意用户覆盖或显示底层系统提示时就会发生。这可能允许攻击者通过与可通过 LLM 访问的不安全功能和数据存储交互来利用后端系统。 间接提示词注入 ：当 LLM 接受来自攻击者可以控制的外部源（例如网站或文件）的输入时，就会发生 ………………………………