专栏名称: 江大白
专业有趣的AI内容平台,关注后回复【算法】,获取45家大厂的《人工智能算法岗江湖武林秘籍》
今天看啥  ›  专栏  ›  江大白

C++ 平台,PyTorch模型部署流程+踩坑实录

江大白  · 公众号  ·  · 2024-08-23 08:00

文章预览

以下 文 章来源于微信公众号:火星少女 作者:火星少女 链接:https://zhuanlan.zhihu.com/p/146453159 本文仅用于学术分享,如有侵权,请联系 后 台作删文处理 导读  PyTorch是常用的深度学习框架,具备较好的生产环境部署条件,也提供了更为稳定的C++的API接口。本文也详细记录模型流程+踩坑的内容,供大家参考。 最近因为工作需要,要把Pytorch的模型部署到C++平台上,基本过程主要参照官网的教学示例,期间发现了不少坑,特此记录。 1.模型转换 libtorch不依赖于python,python训练的模型,需要转换为script model才能由libtorch加载,并进行推理。在这一步官网提供了两种方法: 方法一:Tracing 这种方法操作比较简单,只需要给模型一组输入,走一遍推理网络,然后由torch.ji.trace记录一下路径上的信息并保存即可。示例如下: import torch import torchvision # An instanc ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览