世界模型：安全性视角

文章预览

摘要——随着大规模语言模型（Large Language Model, LLM）的普及，世界模型（World Model, WM）的概念近年来在人工智能研究领域，尤其是人工智能代理（AI agents）的背景下，引起了极大的关注。可以说，WM正逐步演变为构建AI代理系统的重要基础。WM旨在帮助代理预测环境状态的未来演变，或者帮助代理填补缺失信息，从而使其能够规划行动并安全地运行。WM的安全属性在其在关键应用中的有效使用中起着关键作用。在本研究中，我们基于全面的文献调查和预期应用领域的分析，从可信性和安全性的角度对当前最先进的WM技术的影响进行了回顾和分析。我们对当前先进的WM进行了深入分析，并提出技术研究挑战及其影响，以号召研究社区共同努力改进WM的安全性和可信性。 关键词——人工智能安全、大规模语言模型（LLM）、具身人工智能（Embodied AI）、世界 ………………………………