文章预览
小米大模型算法工程师实习生 职位描述 1. 重点研究大模型长文本建模,包括长文本的通用能力增强、训练效率优化、推理效率优化等;2. 重点研究基座模型预训练或持续预训练的技术创新方法,包括模型结构和训练策略的优化;3. 研究大模型高效推理技术,包括量化、剪枝、蒸馏、算子融合等提升大模型部署的推理速度;4. 跟进最新的学术进展,及时掌握大模型的前沿技术。 职位要求 1. 计算机相关专业,在读硕士、博士,发表过大模型相关研究AI顶会论文优先;2. 对主流稠密/MoE大模型如Qwen/GLM/LLaMA/Mistral/Mixtral等的原理和差异有深入的理解;3. 熟练掌握大模型训练框架Megatron-LM/Deepspeed等,有百亿/千亿NLP大模型训练调优经验优先;4. 有良好的代码开发能力,有开源项目开发经验优先。 有意向的可以联系wangquandong@xiaomi.com 【 轻松参会 】为所有 CCF收
………………………………