在C++平台上部署PyTorch模型流程+踩坑实录

文章预览

本文 作 者：火星少女  |  编辑：极市平台 https://zhuanlan.zhihu.com/p/146453159 导读   本文主要讲解如何将pytorch的模型部署到c++平台上的模型流程，按顺序分为四大块详细说明了模型转换、保存序列化模型、C ++中加载序列化的PyTorch模型以及执行Script Module。 最近因为工作需要，要把pytorch的模型部署到c++平台上，基本过程主要参照官网的教学示例，期间发现了不少坑，特此记录。 1.模型转换 libtorch不依赖于python，python训练的模型，需要转换为script model才能由libtorch加载，并进行推理。在这一步官网提供了两种方法： 方法一：Tracing 这种方法操作比较简单，只需要给模型一组输入，走一遍推理网络，然后由torch.ji.trace记录一下路径上的信息并保存即可。示例如下： import torch import torchvision # An instance of your model. model = torchvision . models . resnet18() # An example i ………………………………