专栏名称: 算法爱好者
算法是程序员的内功!伯乐在线旗下账号「算法爱好者」专注分享算法相关文章、工具资源和算法题,帮程序员修炼内功。
今天看啥  ›  专栏  ›  算法爱好者

北大发现,有句话让 DeepSeek 思考停不下来,我替大家试了一下,结果很舒服…

算法爱好者  · 公众号  · 算法  · 2025-02-28 21:30
    

文章预览

一句话“攻击”让大模型思考宕机 !北大团队揭秘 AI 推理模型的致命漏洞 只需输入一句看似普通的提问,就能让 DeepSeek 陷入无限思考的“电子死循环”。 北大团队最新研究发现,当前大模型推理机制存在致命漏洞,甚至可能引发针对 AI 的“DDoS 攻击”。 漏洞核心:当“思考链”失控时 研究团队发现,当输入如  “树中两条路径之间的距离”  等特殊构造的提示词时,DeepSeek-R1 及其蒸馏模型系列(如 DeepSeek-R1-Distill-Qwen-1.5B)会生成无限延长的思考链(Chain-of-Thought, CoT)。 这些模型在响应时 不会生成终止标记(如 < |endoftext|> ) ,而是持续重复逻辑片段,直至达到系统预设的 token 上限(通常为数万至数十万)。 攻击原理的致命性在于 : 1、  跨模型传播性 :同一恶意查询可在同系列蒸馏模型中触发相同漏洞,攻击成本极低。 2、  资源放大效应 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览