主要观点总结
某头部大厂(字节跳动)的模型训练遭到实习生破坏,导致训练成果不可靠,可能需要重新训练。该实习生利用HF漏洞注入破坏代码,影响团队业务进展。实习生已被辞退,并在社交媒体上辟谣。事件暴露出该公司在技术训练方面的安全管理问题。
关键观点总结
关键观点1: 头部大厂字节跳动遭遇模型训练被破坏事件。
据知情人士透露,一名实习生的破坏行为导致了模型训练的不稳定,可能需要重新进行训练。
关键观点2: 实习生利用HF漏洞注入破坏代码。
该实习生在公司的共享模型中写入破坏代码,导致训练效果不稳定,无法产生预期结果。
关键观点3: 实习生被辞退后在社交媒体上辟谣。
该实习生声称有人钻漏洞改代码并嫁祸给他,但字节跳动已确认是其所为。
关键观点4: 事件暴露出字节跳动在技术训练方面的安全管理问题。
技术安全专家指出,该事件暴露出公司在权限隔离和共用代码审计方面的不足。建议采用分级训练和密钥管理的做法来加强安全。
文章预览
10月18日,多个微信群流传一则消息: “某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。” 网传截图 网传截图 记者从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月, 起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。 记者向字节跳动求方面证此事,截至目前,官方未进行回应。 传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离
………………………………