文章预览
Author: [Quokka] Link: [https://zhuanlan.zhihu.com/p/715031517] 做大模型一年半，经历了无数场面试。 经验 我最常听到的候选人（尤其是学生）的说辞是：我没有大模型经验，可以给个机会吗？ 答案是，我们并不看重候选人的大模型训练经验。这里不是说经验不重要，而是大部分人的经验没有意义。只有头部大模型公司的核心骨干的经验才有意义，而这和绝大多数人选无关（e.g.: 校招/实习常见的简历是微调 LLaMA 7B，社招常见的简历是各个公司自己的 XX 大模型）。 事实上，平平无奇的大模型经验反而是扣分项。候选人说自己有大模型训练经验，我会问：你说你有千卡训练 XX B 模型的经验，用的是什么并行配置，DP/PP/TP 如何划分？很多时候，我得到的回答是：我不知道。甚至有时候，候选人会问我，什么是 DP，我实在是无言以对。做 CV 的候选人还能背两句 DP
………………………………
