【CVPR2024教程】推理的鲁棒性：走向可解释性、不确定性和可干预性

文章预览

来源：专知 本文 约2000字 ，建议阅读 5 分钟 在本教程中，我们提供了一种以人为中心的方法来理解神经网络的鲁棒性，使AI能够在社会中正常运行。 神经网络提供了具有普遍适用性和任务独立性的表示空间，这些表示空间在图像理解应用中得到了广泛应用 。图像数据中特征交互的复杂语义已被分解为一组非线性函数、卷积参数、注意力机制以及多模态输入等。这些操作的复杂性引入了神经网络架构中的多种漏洞，包括对抗样本、自信校准问题和灾难性遗忘等。鉴于人工智能有望引领第四次工业革命，理解和克服这些漏洞至关重要。实现这一目标需要创建驱动AI系统的鲁棒神经网络。然而，定义鲁棒性并非易事。简单的对噪声和扰动不变性的测量在现实环境中并不适用。在本教程中，我们提供了一种以人为中心的方法来理解神经网络的鲁棒性，使AI ………………………………