手把手基于 MINI 数据集带你做一次板端精度评估

文章预览

01 引论：写在前面的 性能评估和精度评估在模型开发和部署过程中是至关重要的两个部分，地平线算法工具链提供了两中路径进行算法的精度评估: 一条为服务器端精度评估，该路径通过 PYTHON 脚本使用 PYTHON 推理接口进行板端推理仿真，运行.BC 或 quantized.onnx 量化量化模型以获取推理结果并进行后处理后与真值进行对比，最终计算出量化模型的精度； 另一条另则是直接在板端推理量化后的 hbm 模型，获取推理结果，然后下载推理结果到服务器端并通过 PYTHON 评估脚本结合真值进行进行计算，最终计算出量化模型的精度。 因为后者是在板端进行推理，可以充分利用硬件加速过程，在速度上相比服务器仿真要高效很多，不过，限于板端存储限制，评测所需要的大数据集还需要通过 NFS 在板端使用。 本文以 bevformer 精度评估为例，引到读者从评测环境构 ………………………………