Google＆普林斯顿联合发表：大型语言模型规划器的不确定性对齐

文章预览

来源：投稿  作者：橡皮 编辑：学姐 论文链接：https://arxiv.org/abs/2307.01928 项目主页：https://robot-help.github.io/ unset unset 摘要： unset unset 大型语言模型 (LLM) 展现出一系列有前途的功能——从分步规划到常识推理——这些功能可能为机器人提供实用性，但仍然容易产生幻觉预测。在这项工作中，我们提出了KNOWNO，这是一个用于测量和调整基于 LLM 的规划器的不确定性的框架，以便他们知道自己不知道什么，并在需要时寻求帮助。KNOWNO 建立在共形预测理论的基础上，为任务完成提供统计保证，同时在复杂的多步骤规划设置中最大限度地减少人工帮助。在各种模拟和真实机器人设置中进行的实验涉及具有不同模糊模式的任务（例如，从空间到数字不确定性，从人类偏好到 Winograd 模式），表明 KNOWNO 在提高效率和自主性方面优于现代基线（可能涉及集成或广 ………………………………