Copilot 及 Cursor 等 AI 编码助手的新漏洞：通过规则文件注入恶意代码

文章预览

整理 | 华卫 近日，Pillar Security 的研究人员报告称，诸如 GitHub Copilot 和 Cursor 这类人工智能编码助手，可能会通过恶意规则配置文件的分发而被操控，从而生成包含后门程序、漏洞及其他安全问题的代码。 规则文件被人工智能编码代理用于在生成或编辑代码时指导其行为。例如，一个规则文件可能包含指令，让编码助手遵循特定的编码最佳实践、采用特定的格式，或者用特定的语言输出回复内容。 Pillar 的研究人员开发出了一种攻击技术，他们称之为“规则文件后门”。这种技术通过向规则文件中注入对人类用户不可见但人工智能代理可读的指令，将规则文件武器化。研究人员指出，像双向文本标记和零宽度连接符这类隐藏的 Unicode 字符，可被用于在用户界面以及 GitHub 的拉取请求中隐藏恶意指令。 规则配置通常在开发者社区中共享，并通过开源 ………………………………