专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
今天看啥  ›  专栏  ›  新智元

谷歌Agent首次发现真实世界代码漏洞!抢救全球数亿设备,或挽回数十亿美元损失?

新智元  · 公众号  · AI  · 2024-11-02 12:59

主要观点总结

谷歌的Big Sleep团队利用AI Agent在真实世界的软件中发现了未知的、可利用的内存漏洞,特别是在SQLite数据库中的漏洞。该团队通过一系列研究和测试,成功复现并报告了这一漏洞,展示了AI在安全性研究领域的潜力。

关键观点总结

关键观点1: AI Agent首次在真实世界的软件中发现未知的、可利用的内存安全漏洞。

谷歌的Big Sleep团队使用LLM模型,通过模拟人类安全研究人员的方法,成功发现了SQLite数据库中的一个漏洞。

关键观点2: 发现漏洞的过程涉及对SQLite代码库的深入分析和研究。

研究人员使用专用的工具,如Code Browser、Python工具和Debugger,来辅助AI Agent理解和分析代码,最终找到漏洞。

关键观点3: 模糊测试在发现此漏洞方面并不有效。

尽管使用了AFL等模糊测试工具进行长时间测试,但该漏洞仍然难以被发现。有效的发现漏洞可能需要针对特定目标的模糊器和高质量的语料库。

关键观点4: AI Agent在漏洞研究中的应用具有巨大潜力。

这项工作展示了AI如何帮助防御者发现漏洞,提供根本原因分析,并可能在未来缩小公共和私有技术前沿之间的差距。


文章预览

   新智元报道   编辑:Aeneas 好困 【新智元导读】 AI首次发现真实世界中的重大安全漏洞?SQLite中的一个漏洞,幸运地被谷歌研究者的AI Agent发现了,修复后并未造成任何损失。莫非AI再进化一番,微软的全球蓝屏事故就可以永久避免了?这个可能性令人激动不已。 LLM居然在真实世界的代码中,发现了一个漏洞? 想象一下,AI正在默默地守护着我们日常使用的软件。忽然,它发现了一个你我可能从未察觉的安全隐患,并且悄无声息地把它修复了! 就在刚刚,谷歌的Big Sleep项目揭示了一个惊人的成果:一个真实世界的安全漏洞,出现在全球广泛使用的SQLite数据库中,而这个漏洞竟然被AI成功识别出来了?在真实世界的危机扩散之前,它及时挽回了局面。 隶属于谷歌Project Zero和Google DeepMind的团队声称,这是AI Agent在广泛使用的现实软件中,发现未知 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览