减少从头训练需求，PROFIT 针对预训练模型微调的优化器，在图像分类和运动预测任务上的表现优异！

文章预览

前言   预训练模型的微调已成为计算机视觉和机器人领域的宝贵工具。近期的微调方法侧重于通过使用较小的学习率或冻结主干网络来提高效率，而非提高准确性。 为了重新关注模型的准确性，作者提出了PROFIT（Proximally Restricted Optimizer For Iterative Training），这是首款专门设计用于逐步微调已收敛模型在新任务或数据集上的优化器。 与基于随机初始化而几乎不做假设的传统优化器（如SGD或Adam）不同，PROFIT 利用了已收敛模型的结构来规整优化过程，从而取得了更好的效果。 Pytorch训练营，花两个星期彻底掌握代码实现 CV各大方向专栏与各个部署框架最全教程整理 CV全栈指导班、基础入门班、论文指导班 全面上线!! 来源： 集智书童 仅用于学术分享，若侵权请联系删除 1. Introduction 在解决计算机视觉和机器人问题时，对预训练模型进行微调已经成为一 ………………………………