NIPS 24 | 超越CVXPY,新型端到端优化器

文章预览

论文标题：BPQP: A Differentiable Convex Optimization Framework for Efficient End-to-End Learning 本文来自UC Berkekey, 南开大学以及微软亚研院，文章 介绍了一种名为 Backward Pass as a Quadratic Programming (BPQP) 的新型可微分凸优化框架，该框架旨在提高端到端学习任务中凸优化层的计算效率。 1. 引言 近年来，深度神经网络被广泛应用于数据驱动的决策问题，为端到端学习任务生成最终决策。除了显式的前向函数外，网络中的某些层可能表现出隐式输出的行为，例如数学优化问题的解，这些层被称为可微分优化层。这些层将输入映射到最优解，可以引入领域特定知识、物理结构和先验等有用的归纳偏差，从而实现更准确和可靠的决策。这种方法已被整合到深度声明式网络中，并在能源最小化和预测-优化等应用中被证明是有效的。 优化问题通常缺乏通用解析解，因此需要更复 ………………………………