可解释性多学科研究综述：概念、挑战和设计考虑因素

文章预览

智能系统，包括那些由人工智能（AI）驱动的系统，正越来越多地应用于我们的日常生活中，人们越来越需要让这些系统变得透明、可理解、可预测，并最终为人们所接受。这可以通过整合解释能力来部分实现。然而，实际上，为终端用户提供有用的解释功能一直是一项艰巨的任务，而且随着智能系统使用更复杂的推理和学习程序，难度也会越来越大。本文简要概述了有关解释的研究，并介绍了不同学科的重要解释概念，以及这些概念在基于知识的系统和后来的基于机器学习（ML）的系统中的整合历史。它讨论了解释设计的一般挑战，以及动态和/或分布式环境所特有的挑战。最后，它从以人为本的角度论证了解释，讨论了优秀解释的特点和设计注意事项。 在智能系统中集成解释功能的兴趣可以追溯到 20 世纪 80 年代，当时专家系统（也被称为第一 ………………………………