【CMU博士论文】理解、正式表征和稳健处理现实世界的分布变迁

文章预览

分布变迁仍然是成功和可靠部署机器学习（ML）系统的重大障碍。解决这些脆弱性的长期方案只能通过理解基准测试根本无法捕捉所有可能发生的变化而实现；同样重要的是，通过仔细实验AI系统，理解它们在实际分布变迁下的失败。本论文描述了我在构建可信赖和可靠的机器学习基础方面的工作。调查的工作大致分为三个主要类别：（i）设计正式的、实用的真实世界分布变迁结构表征；（ii）利用这种结构开发证明正确且高效的学习算法，能够稳健处理这种变迁；以及（iii）实验现代ML系统，理解现实世界重尾和分布变迁的实际影响，包括平均情况和最坏情况。 第一部分描述了可扩展地认证深度神经网络对对抗攻击的稳健性的工作。所提出的方法可用于认证对测试样本、训练数据或更一般地对任何影响模型最终预测的输入的攻击的稳健性。在第二 ………………………………