专栏名称: 人工智能那点事
专注国内外AI人工智能、机器人、AR/VR、无人驾驶、深度学习、5G、智能制造、新零售等前沿科技报道。
今天看啥  ›  专栏  ›  人工智能那点事

字节跳动大模型被实习生攻击,损失超千万美元?

人工智能那点事  · 公众号  · AI  · 2024-10-19 12:59

主要观点总结

某头部大厂(字节跳动)的模型训练遭到实习生破坏,导致训练成果不可靠,可能需要重新训练。该实习生利用HF漏洞注入破坏代码,影响团队业务进展。实习生已被辞退,并在社交媒体上辟谣。事件暴露出该公司在技术训练方面的安全管理问题。

关键观点总结

关键观点1: 头部大厂字节跳动遭遇模型训练被破坏事件。

据知情人士透露,一名实习生的破坏行为导致了模型训练的不稳定,可能需要重新进行训练。

关键观点2: 实习生利用HF漏洞注入破坏代码。

该实习生在公司的共享模型中写入破坏代码,导致训练效果不稳定,无法产生预期结果。

关键观点3: 实习生被辞退后在社交媒体上辟谣。

该实习生声称有人钻漏洞改代码并嫁祸给他,但字节跳动已确认是其所为。

关键观点4: 事件暴露出字节跳动在技术训练方面的安全管理问题。

技术安全专家指出,该事件暴露出公司在权限隔离和共用代码审计方面的不足。建议采用分级训练和密钥管理的做法来加强安全。


文章预览

10月18日,多个微信群流传一则消息: “某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。” 网传截图 网传截图 记者从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月, 起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。 记者向字节跳动求方面证此事,截至目前,官方未进行回应。 传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览