Nature: 受热力学启发的人工智能解释

文章预览

编译：王庆法 译者注：解释这种为人类可解释性设计的解释方法为何可以工作的原理可以参考 ： 拉格朗日成本下的神经最优传输 原文：https://www.nature.com/articles/s41467-024-51970-x 摘要 近年来，预测机器学习模型在各个科学领域都得到了重视。然而，他们的黑箱性质需要在接受他们的预测是准确的之前建立对他们的信任。一种有前途的策略涉及采用解释技术，以人类可以理解的方式阐明模型预测背后的基本原理。然而，评估这些解释的人类可解释性程度是一个非同小可的挑战。在这项工作中，我们引入了解释熵作为评估任何线性模型的人类可解释性的通用解决方案。利用这个概念并从经典热力学中汲取灵感，我们提出了受热力学启发的 AI 和其他黑盒范式的可解释表征，这是一种以与模型无关的方式生成最佳人类可解释的方法。我们通过解释跨不同领 ………………………………