【CMU博士论文】算法和架构的学习

文章预览

我们应该如何设计我们运行的算法和学习的架构？计算领域的多个高影响力领域已经开始使用机器学习（ML）自动化这些程序，通过利用我们不断扩大的数据和计算资源，减少对人力的需求。本论文利用机器学习、算法设计和优化的思想，推动我们对这些数据驱动计算领域的理解——元学习、具有预测的算法和架构搜索——并将结果方法论转化为最先进的实现。 在元学习中，我们利用机器学习自身来改善 ML 算法，通过跨多个学习任务进行学习，我们引入了 ARUBA，一个用于设计和分析元学习方法的框架 。我们的分析提供了基于梯度的元学习的首次保证，展示了这些方法如何根据可量化的学习任务相似性指标提高性能。我们利用 ARUBA 将元学习的实际影响扩展到机器学习的新领域，包括部分反馈学习和联邦学习；在后者中，我们引入了 FedEx，一种用于 ………………………………