详解算法部署工程师的关键技能：CUDA开发与TensorRT部署

文章预览

这两年的秋招与春招中，算法工程师岗位竞争异常激烈，据知乎和脉脉上的HR分享的数据，录取比例高达100:1，CV岗位尤其如此。究其原因，随着深度学习的框架越来越便利，开源代码越来越丰富， 计算机视觉的入门门槛低得可怕 （不论是计算机、自动化、数学等理工科专业的同学，还是经管类、商科类专业的同学，多多少少都跑过深度学习模型）。 人工智能行业的高薪资成为了大家竞相转行的最大动力。 之前我们总是想尽办法追求算法能达到多少准召率，但在实际落地时却发现这些SOTA推理太慢，压根不符合实际，比如自动驾驶中希望图像或点云感知算法能达到100-200Hz，但大部分算法只能达到30-50Hz。这时 算法部署工程师派上极大用场！ 顾名思义，就是将算法在嵌入式设备端或者服务器端进行推理部署，尽可能对算法进行优化和加速以满足实时 ………………………………