CUDA开发总结笔记

文章预览

↑ 点击 蓝字  关注极市平台 作者丨周彬@知乎（已授权） 来源丨https://zhuanlan.zhihu.com/p/570795544 编辑丨极市平台 极市导读   本文不是一篇教程，而是笔者的一篇总结笔记，概括性地整理CUDA开发相关的经验和知识。  >> 加入极市CV技术交流群，走在计算机视觉的最前沿 基本编程模型 最基本的概念就是 显存、kernel函数、线程块、stream： 开发者可以通过CUDA Runtime API，申请、释放显存，并在内存和显存间进行数据拷贝。 开发者可以编写专用于在GPU上执行的kernel函数，在主机侧通过CUDA C扩展调用kernel函数，调用将创建数以万计的GPU线程，每个GPU线程均会完整执行一次kernel函数，kernel函数内可以对显存进行读、写等各种操作。数以万计的GPU线程之间靠只读的内置变量(线程ID等)互相区分。 一次kernel调用对应的GPU线程，需划分为一个个尺寸相同的线程块。线 ………………………………