主要观点总结
本文全面回顾了分布外检测(OOD检测)的最新进展,从问题场景的角度对训练驱动、训练无关和基于大型预训练模型的OOD检测进行了详细阐述。文章还介绍了评估指标、实验协议和多样化的应用场景,并讨论了未来的研究方向。
关键观点总结
关键观点1: 问题背景
介绍机器学习中的分布外检测(OOD检测)的重要性及其在现实场景中的应用,如医疗诊断和自动驾驶。
关键观点2: 现有研究综述
从不同角度(如方法论、任务场景)对现有OOD检测研究进行分类和回顾,包括基于分类、基于密度、基于距离和基于重建的方法。
关键观点3: 训练驱动的OOD检测
介绍训练驱动型OOD检测方法,根据训练过程中是否使用OOD数据进一步分类讨论。
关键观点4: 训练无关的OOD检测
介绍训练无关型OOD检测方法,包括事后方法和测试时自适应方法。
关键观点5: 基于大型预训练模型的OOD检测
介绍大型预训练模型在OOD检测中的应用,以及零样本、少样本和全样本OOD检测的场景。
关键观点6: 评估指标、实验协议及应用
提供OOD检测的评估指标、实验协议和多样化应用场景的概述。
关键观点7: 未来研究方向
讨论OOD检测的未来发展趋势和潜在的关键研究方向。
文章预览
分布外检测(Out-of-distribution,OOD)旨在检测超出训练类别空间的测试样本,这是构建可靠机器学习系统的重要组成部分。现有的关于OOD检测的综述主要聚焦于方法分类,通过对各种方法进行分类来考察该领域。然而,许多最新研究集中在非传统的OOD检测场景,如测试时自适应、多模态数据源和其他新颖背景。在本次综述中,我们首次从问题场景的角度独特地回顾了OOD检测的最新进展。根据训练过程是否完全可控,我们将OOD检测方法分为训练驱动和与训练无关的两类。此外,考虑到预训练模型的快速发展,基于大型预训练模型的OOD检测也被视为一个重要类别,并单独讨论。此外,我们还讨论了评估场景、多种应用以及若干未来的研究方向。我们相信,本综述通过全新的分类法将有助于提出新的方法并扩展更多实际场景的应用。相关论文的精选列表可
………………………………