深度模型提速——CUDA & TensorRT？

文章预览

2020年至今，深度学习模型少有突破性进展，尽管学术界一直在炒大规模预训练模型，但是能玩得起的机构少之又少，更别提具体应用落地了。 但是，深度学习终究还是要服务于企业，只有能为企业带来实在的收益（靠着玩概念，忽悠来的投资，不算做收益），深度学习才能长青。 各大企业都在努力验证深度学习的商业落地场景，而高学历的算法工程师在驻场解决甲方企业的实际问题时，却出现以下这种搞笑局面： 为了避免以上这种情况重复发生，现在的企业在招聘AI算法工程师时，开始要求应聘者需要掌握当下深度学习加速必备的CUDA编程，并且需要熟练掌握当下主流的加速工具TensorRT模型的使用技巧。 一、 CUDA是什么？它在深度学习加速中扮演着什么样的角色呢？ CUDA是NVIDIA在2006年推出的运算平台。 CUDA作为一个完整的GPU解决方案，提 ………………………………