【伯克利博士论文】迈向能够理解丰富交流的智能体

文章预览

来源：专知 本文 约2500字 ，建议阅读 5 分钟 本论文在教导智能体理解丰富交流的两大挑战上取得了进展。 当今的AI系统主要通过大规模的输入输出对进行训练。这些智能体可能能够基于简单的交流形式（如语言任务描述）进行推理，但它们目前还无法利用人类教师在指导学生时使用的全面沟通方式，包括语言和非语言形式的交流。本论文在教导智能体理解丰富交流的两大挑战上取得了进展。 在第一部分中，我们开发了算法，可以高效地实现智能体对人类提供的实时交流进行语义理解，包括非语言交流和多种形式的语言表达。我们还使智能体能够以一种新的方式使用语言——指导常识性的探索。 在第二部分中，我们解决了教导智能体理解可信来源的交流，同时忽略不可信来源提供的恶意指令或虚假信息的挑战 。我们对模型在面对语义提示注入和 ………………………………