在C++平台上部署PyTorch模型流程+踩坑实录

文章预览

↑ 点击 蓝字  关注极市平台 作者丨火星少女@知乎 来源丨https://zhuanlan.zhihu.com/p/146453159 编辑丨极市平台 极市导读   本文主要讲解如何将pytorch的模型部署到c++平台上的模型流程，按顺序分为四大块详细说明了模型转换、保存序列化模型、C ++中加载序列化的PyTorch模型以及 执行Script Module。 >> 加入极市CV技术交流群，走在计算机视觉的最前沿 最近因为工作需要，要把pytorch的模型部署到c++平台上，基本过程主要参照官网的教学示例，期间发现了不少坑，特此记录。 1.模型转换 libtorch不依赖于python，python训练的模型，需要转换为script model才能由libtorch加载，并进行推理。在这一步官网提供了两种方法： 方法一：Tracing 这种方法操作比较简单，只需要给模型一组输入，走一遍推理网络，然后由torch.ji.trace记录一下路径上的信息并保存即可。示例如下： import ………………………………