原创 | 机器学习模型的可解释性

文章预览

作者：宋雨婷 本文 约6300字 ，建议阅读 13 分钟 本文为你 详细介绍机器学习模型的可解释性。 复杂的机器学习模型在实际应用中有很高的准确率，在设计模型时主要关注的是性能，而非可解释性。模型的复杂度、非线性等特征使得他们成为“黑箱” ，很难被人类理解并应用于下游决策任务中倘若人类无法理解模型，人类很难去信任模型并把它应用于高风险决策中。因此，仅仅只关注模型的正确性是不够的，也要关注模型的可解释性。那么，如何做到模型能够被人类理解呢？一般有两个方法：一是建立本身就具有可解释性的模型，如线性模型、决策树等等。二是先建立一个黑箱模型，然后用事后可解释性分析方法对其进行分析。 在某些情况下，模型的准确率和可解释性之间可能存在权衡。准确率越高的模型的决策过程往往很复杂，难以直观理解， ………………………………