PyTorch可复现/重复实验的相关设置

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 作者丨Alxander@知乎（已授权） 来源丨https://zhuanlan.zhihu.com/p/448284000 编辑丨极市平台 极市导读   深度学习在训练过程中，由于随机初始化，样本读取的随机性，导致重复的实验结果会有差别，个别情况甚至波动较大。一般论文为了严谨，实验结论能够复现/可重复，通常采取固定随机种子使得结果确定。本文总结了一些去定型设置的方法，附详细代码。   确定性设置 1 随机种子设置 随机函数是最大的不确定性来源，包含了模型参数的随机初始化，样本的shuffle。 PyTorch 随机种子 python 随机种子 numpy 随机种子 # PyTorch import torch torch.manual_seed(0) # python import random random.seed(0) # Third part libraries import numpy as np np.random.seed(0) CPU版本下，上述随机种子设置完成之后，基本就可实现 ………………………………