最全的损失函数汇总

文章预览

作者：mingo_敏 编辑：深度学习自然语言处理 链接： https://blog.csdn.net/shanglianlm/article/details/85019768 tensorflow和pytorch很多都是相似的，这里以pytorch为例。 19种损失函数 1. L1范数损失 L1Loss 计算 output 和 target 之差的绝对值。 torch.nn.L1Loss(reduction= 'mean' ) 参数： reduction-三个值，none: 不使用约简；mean:返回loss和的平均值；sum:返回loss的和。默认：mean。 2 均方误差损失 MSELoss 计算 output 和 target 之差的均方差。 torch.nn.MSELoss(reduction= 'mean' ) 参数： reduction-三个值，none: 不使用约简；mean:返回loss和的平均值；sum:返回loss的和。默认：mean。 3 交叉熵损失 CrossEntropyLoss 当训练有 C 个类别的分类问题时很有效. 可选参数 weight 必须是一个1维 Tensor, 权重将被分配给各个类别. 对于不平衡的训练集非常有效。 在多分类任务中，经常采用 softmax 激活函数+交叉熵损失函数，因为交 ………………………………