Q-YOLO，基于TensorRT和OpenVIVO的目标检测量化实战（附论文及源码）

文章预览

以下文章来源于微信公众号：CVHub 作者：派派星 链接： https://mp.weixin.qq.com/s/Us7IiYXFtUoQJ6btpcG1lw 本文仅用于学术分享，如有侵权，请联系后台作删文处理 导读 针对 资源有限的边缘设备上高效部署目标检测模型，实现减少计算和内存需求的实时检测，北航提出新的基于 TensorRT 和 OpenVIVO 的目标检测量化模型 Q-YOLO，请读者跟随本文一起学习吧。 论文链接： h ttps://arxiv.org/abs/2307.04816 代码链接： https://github.com/Meize0729/Q-YOLO_all 前沿 TLDR : 今天给大家带来一个针对单阶段目标检测器的低 bit 量化技术工作—— Q-YOLO 。Q-YOLO 的核心是引入一种完全端到端的  PTQ  流程，并采用基于单边直方图（UH）的激活量化方案，再通过最小化均方误差（MSE）量化误差来确定最大截断值。 上图展示了 YOLOv5s 中 model.21.conv 层的激活值分布直方图（具有 2048 个 bin）。可以看出， ………………………………