【牛津大学博士论文】序列决策中的迁移学习

文章预览

迁移学习对于提高深度学习模型在序列决策任务中的数据效率和适用性至关重要。然而，确定哪些知识可以迁移以及如何有效利用它仍然是一个尚未解决的难题。近年来在表示学习方面的突破，尤其是在语言和视觉领域，展示了从大规模数据集迁移知识的强大能力。同时，仿真平台和环境设计的进步也为收集多样化、逼真的训练数据开辟了新的可能性。在此背景下，本论文包含的四项研究工作探讨了序列决策任务中不同方面的迁移技术。 首先，我们对先前在序列决策中整合自然语言数据和表示的研究进行了全面综述。我们的综述揭示了尚未解决的挑战，并规划了有前景的研究方向，主张更广泛地利用大型语言模型，并开发语义复杂性更高的环境。其次，我们提出并研究了一种用于多模态多任务设置的模块化架构设计，以实现组合泛化。受控实验表 ………………………………