将Diffusion模型的推理速度提升了8倍，顺利拿到6家企业offer

文章预览

大家好，我是图书李，硕士毕业于苏州大学，今年6月毕业加入了大厂做模型推理的工作，毕业时拿到了华为南研所、腾讯北京等6家企业offer。 研一研二期间，我是做计算机视觉算法的，每天为提升模型在各大数据集上的精确率而绞尽脑汁，同时刷知乎时看到“计算机视觉算法岗的求职如同地狱般的难度”，于是开始纠结是否要继续做算法。直到参加在无锡召开的VALSE 2023，听到学术界和产业界的前辈们在分享模型轻量化、模型压缩以及推理加速的方向，自己非常兴奋，于是果断转到“模型压缩与推理加速 ”这个方向 。 （南京大学吴建鑫老师的分享开拓了我的视野） 当时自己的判断主要基于以下几点： 1. 深度学习/大模型的算法层出不穷，如果想产生新的idea，每天就得跟进新的paper，非常痛苦； 2. 不管模型如何变化，它总要在端侧落地部署，而端 ………………………………