文章预览
以下文章来源于微信公众号:CVHub 作者:派派星 链接: https://mp.weixin.qq.com/s/Us7IiYXFtUoQJ6btpcG1lw 本文仅用于学术分享,如有侵权,请联系后台作删文处理 导读 针对 资源有限的边缘设备上高效部署目标检测模型,实现减少计算和内存需求的实时检测,北航提出新的基于 TensorRT 和 OpenVIVO 的目标检测量化模型 Q-YOLO,请读者跟随本文一起学习吧。 论文链接: h ttps://arxiv.org/abs/2307.04816 代码链接: https://github.com/Meize0729/Q-YOLO_all 前沿 TLDR : 今天给大家带来一个针对单阶段目标检测器的低 bit 量化技术工作—— Q-YOLO 。Q-YOLO 的核心是引入一种完全端到端的 PTQ 流程,并采用基于单边直方图(UH)的激活量化方案,再通过最小化均方误差(MSE)量化误差来确定最大截断值。 上图展示了 YOLOv5s 中 model.21.conv 层的激活值分布直方图(具有 2048 个 bin)。可以看出,
………………………………