视觉基础模型的可解释性：综述

文章预览

随着人工智能系统日益融入日常生活，可解释性领域受到了极大的关注。这一趋势尤其受到现代AI模型及其决策过程复杂性的驱动。基础模型的出现，以其广泛的泛化能力和新兴应用，进一步加剧了这一领域的复杂性。基础模型在可解释性领域占据着模糊的位置：它们的复杂性使得这些模型天生难以解释，但它们也越来越多地被用作构建可解释模型的工具。在这篇综述中，我们探讨了基础模型与可解释AI（XAI）在视觉领域的交集。我们首先编制了一份全面的文献合集，涵盖了这些领域的交叉研究。接下来，我们根据模型的架构特征对这些研究进行了分类。然后，我们讨论了当前研究在将XAI整合进基础模型时所面临的挑战。此外，我们还回顾了这些结合方法的常见评估方法。最后，我们提出了本次综述的关键观察和见解，并为这一快速发展的领域提供 ………………………………