机器学习（朴素贝叶斯）

文章预览

来源：算法日常小记 朴素贝叶斯算法作为机器学习中经典算法，在机器学习分类任务中占据一席之地，尤其是在文本分类，垃圾邮件分类等问题上具有不错的泛化能力，作为最简单的生成式模型，下面我们具体了解下。 概率基础知识 条件概率： 设 是两个事件，且 ，则在事件 发生的条件下，事件 发生的概率为： 条件概率由文氏图可以更好的理解，其中 就是 乘法公式： 由条件概率公式得 乘法公式推广： 对于任何正整数 ，当 时有： 全概率公式：若事件 两两互斥，即 ，并且 ，则对任意一个事件 ，有如下公式成立 全概率由文氏图可以理 解为 贝叶斯公式： 由上面几个公式不难推出下面公式 朴素贝叶斯分类算法 现在我们将上述贝叶斯公式应用到机器学习算法中，分类任务是已知特征预测类别的有监督学习任务，上述贝叶斯公式可写为： 假设现 ………………………………