文章预览
一句话“攻击”让大模型思考宕机 !北大团队揭秘 AI 推理模型的致命漏洞 只需输入一句看似普通的提问,就能让 DeepSeek 陷入无限思考的“电子死循环”。 北大团队最新研究发现,当前大模型推理机制存在致命漏洞,甚至可能引发针对 AI 的“DDoS 攻击”。 漏洞核心:当“思考链”失控时 研究团队发现,当输入如 “树中两条路径之间的距离” 等特殊构造的提示词时,DeepSeek-R1 及其蒸馏模型系列(如 DeepSeek-R1-Distill-Qwen-1.5B)会生成无限延长的思考链(Chain-of-Thought, CoT)。 这些模型在响应时 不会生成终止标记(如 < |endoftext|> ) ,而是持续重复逻辑片段,直至达到系统预设的 token 上限(通常为数万至数十万)。 攻击原理的致命性在于 : 1、 跨模型传播性 :同一恶意查询可在同系列蒸馏模型中触发相同漏洞,攻击成本极低。 2、 资源放大效应
………………………………