【博士论文】深度神经网络的元学习损失函数，184页pdf

文章预览

人类通常可以通过少量的示例快速高效地解决复杂的新学习任务。相比之下，现代人工智能系统往往需要成千上万甚至数百万次观察才能解决最基本的任务。元学习旨在通过利用类似学习任务的过去经验，将适当的归纳偏差嵌入学习系统，从而解决这一问题。历史上，针对优化器、参数初始化等元学习组件的方法已显著提高了性能。 本论文旨在通过对通常被忽视的损失函数组件进行研究，探讨元学习以提升性能的概念 。损失函数是学习系统的重要组成部分，它代表了主要学习目标，系统优化该目标的能力决定并量化了学习的成功。 在本论文中，我们开发了用于深度神经网络的元学习损失函数的方法。首先，我们引入了一种称为进化模型无关损失函数（EvoMAL）的符号模型无关损失函数元学习方法 。该方法整合了损失函数学习的最新进展，使得在普 ………………………………