CUDA性能简易优化（一）背景知识

文章预览

↑ 点击 蓝字  关注极市平台 作者丨oldpan 来源丨oldpan博客 编辑丨极市平台 极市导读   本文是关于CUDA性能优化的基础教程，主要介绍了GPU的基础知识，帮助理解如何设计和优化深度学习中的层，使其能充分利用GPU性能。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 CUDA性能优化简单教程，本篇介绍 性能优化背景 。 想知道实际中如何优化特定的层，或者某一层怎么设计才可能充分利用GPU，我们需要了解一些GPU的基础知识。 以下教程主要来源自NVIDIA官方：GPU Performance Background User's Guide [1] ，主要是讲解深度学习中，网络中一些operation在GPU中是如何执行的，已经一些和性能相关的细节注意点。 具体内容如下： GPU的基本结构 ( GPU Architecture Fundamentals [2] ) OP（operation）是如何被拆分设计为并行计算的 ( GPU Execution Model [3] ) 如何通过算术强度（arithm ………………………………