什么是交叉熵损失函数？

文章预览

在机器学习预测问题中，我们会用损失函数来衡量一个模型的表现 ，比如对于一个回归问题（预测值为连续数），我们可以采用均方误差作为损失函数。在分类问题中，尤其是多分类问题，定义损失函数的方式与回归问题有所不同。 分类问题的目标是让模型能够为每一个输入样本准确地预测其所属的类别，而这些类别通常是离散的、有限的 。就比如，在手写数字识别问题中，模型的任务是预测每张图片对应的数字（0 到 9 之间的一个整数）。 为了衡量模型在分类问题中的表现，我们需要 定义一个能够反映预测类别与真实类别之间差异的损失函数 。与回归问题中使用的均方误差不同，在分类问题中更常用的是 交叉熵损失函数 ，因为它能够直接衡量预测的概率分布与真实分布之间的差异。 对于这种函数，很多学习者对其并不熟悉，下面我们来详 ………………………………