主要观点总结
谷歌研究人员利用大语言模型发现了一个SQLite中的可利用堆栈缓冲区下溢漏洞。这是AI agent在广泛使用的现实软件中首次发现此前未知的、可利用的内存安全问题的公开案例。该漏洞已被SQLite开发团队修复，并未影响用户。同时，谷歌提出了AI在模糊测试中的潜力，并宣布了与该项目相关的研究仍在继续。
关键观点总结
关键观点1: 谷歌研究人员使用大语言模型发现了SQLite中的堆栈缓冲区下溢漏洞。
该漏洞允许攻击者导致程序崩溃或执行任意代码，是AI在现实软件中发现的首个未知的可利用的内存安全问题。
关键观点2: 该漏洞的发现得益于谷歌的“Big Sleep”AI agent。
这是Project Zero和DeepMind合作成果的早期项目“Project Naptime”的延伸。谷歌强调了AI在缩小模糊测试的防御差距方面的潜力。
关键观点3: 该漏洞已被SQLite开发团队修复，并未影响用户。
谷歌的研究人员承认利用这个漏洞的难度较大。
文章预览
整理 | 燕珊 谷歌的研究人员日前声称，他们首次利用大语言模型发现了一个重要漏洞。 在一篇博客文章中，谷歌表示， 他们相信这是 AI agent 在广泛使用的现实软件中发现此前未知的、可利用的内存安全问题的首个公开案例。 具体来说，它在 SQLite 中发现了一个可被利用的堆栈缓冲区下溢漏洞。 这个漏洞在 10 月就被谷歌报告给 SQLite 开发团队，后者在同一天已经修复了它。由于漏洞在官方发布之前就被消除了，因此并没有影响到 SQLite 的用户。
1 利用大模型发现漏洞：或致程序崩溃甚至执行任意代码 这款基于大语言模型的漏洞挖掘 AI agent 名为“Big Sleep”，是谷歌的 Project Zero 和 DeepMind 合作的成果。据称，它是今年 6 月宣布的早期项目“Project Naptime”的延伸。 谷歌指出，在 8 月份的 DEFCON 安全会议上，负责创建 AI 辅助漏洞研究工具的网络安
………………………………
