TorchScript: Tracing vs. Scripting

文章预览

本文翻译自 https://ppwwyyxx.com/blog/2022/TorchScript-Tracing-vs-Scripting/ PyTorch提供了两种方法将nn.Module转化为TorchScript格式的图：tracing和scripting。 本文将： 比较它们的优缺点，重点是tracing的实用技巧。 我试图说服你，在部署复杂模型时，应优先选择torch.jit.trace而不是torch.jit.script。 第二点可能是一个不常见的观点：如果我在Google上搜索“tracing vs scripting”，第一篇文章推荐默认使用scripting。但是tracing有很多优点。事实上，在我离开的时候，Facebook/Meta产品中的所有检测和分割模型都是按照“默认使用tracing，仅在必要时使用scripting”的策略部署的。 为什么tracing更好？简而言之：(i) 它不会损害代码质量；(ii) 其主要局限性可以通过混合使用scripting来解决。 术语 Terminology 首先，我们来解释一些常见术语： Export: 指将以eager-mode Python代码编写的模型转化为描述计 ………………………………