800 万索赔！字节为何对投毒实习生下重手？

文章预览

昨天晚上睡前，看到新浪科技的报道，前一段时间给字节大模型投毒的实习生被起诉了，根据造成的损失，索赔 800 万。 我们再一起回顾一下这起事件。 10 月份的时候，在很多微信群爆料，“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了 8000 多张卡，带来的损失可能超过千万美元。” 根据相关媒体从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年 6 月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。 传闻显示，该田姓实习生利用了 HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且 AML 团队无法核查原因。 ………………………………