专栏名称: 计算机视觉工坊
专注于计算机视觉、VSLAM、目标检测、语义分割、自动驾驶、深度学习、AI芯片、产品落地等技术干货及前沿paper分享。这是一个由多个大厂算法研究人员和知名高校博士创立的平台,我们坚持工坊精神,做最有价值的事~
今天看啥  ›  专栏  ›  计算机视觉工坊

深度学习科研,如何高效进行代码和实验管理?

计算机视觉工坊  · 公众号  ·  · 2024-11-18 08:00

主要观点总结

本文分享了关于如何高效管理代码实验的方法,包括使用Yaml文件配置训练参数、代码模块化、使用Tensorboard和tqdm库、利用Github记录代码和实验结果等。这些方法可以帮助研究人员更高效地训练和测试模型,提高项目落地的成功率。

关键观点总结

关键观点1: 使用Yaml文件配置训练参数

通过Yaml文件来管理模型和训练相关的参数,包括预处理、分类种类、backbone参数、优化器和损失函数的选择等。这样可以方便地断点训练、fine-tune或直接测试,并且能方便地查看结果和对应的参数。

关键观点2: 代码模块化

将代码模块化可以提高代码的可维护性和可重用性,减少修改代码时的影响范围。深度学习代码可以分为I/O模块、预处理模块、可视化模块、模型主体等模块。

关键观点3: 使用Tensorboard和tqdm库

Tensorboard可以追踪训练的loss曲线变化,方便判断模型是否收敛或是否overfit。tqdm可以直观地跟踪训练进度,方便做early stop。

关键观点4: 利用Github记录代码和实验结果

使用Github记录代码和实验结果可以方便地管理项目,多人合作开发或单独项目均可。可以使用excel记录实验结果,包括模型对应的yaml路径、训练轮数和测试结果等。


文章预览

点击上方“ 计算机视觉工坊 ”,选择“星标” 干货第一时间送达 内容来自知乎,「计算机视觉工坊」整理,如有侵权请联系删除 https://www.zhihu.com/question/269707221 作者:叶小飞 我之前在北美奔驰落地时,曾有段时间为了测试不同的结构和参数,一周能训练一百来个不同的模型,为此我结合公司前辈们的做法和自己的一点思考总结了一套高效的代码实验管理方法,成功帮助了项目落地, 现在在这里分享给大家。 使用Yaml文件来配置训练参数 我知道很多开源repo喜欢用input argparse来传输一大堆训练和模型相关的参数,其实非常不高效。一方面,你每次训练都需要手动输入大量参数会很麻烦,如果直接改默认值又要跑到代码里去改,会浪费很多时间。这里我推荐大家直接使用一个Yaml file来控制所有模型和训练相关的参数,并将该yaml的命名与模型名字和时 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览