NeurIPS 2024 让大语言模型使用代码解决图分析推理任务

文章预览

Neurips 2024 让大语言模型像人类专家一样使用代码解决图分析推理任务 论文链接: (https://arxiv.org/abs/2409.19667/) GitHub链接: (https://github.com/BUPT-GAMMA/ProGraph) 背景与动机 图是现实世界中十分常用的数据结构（例如社交网络和推荐系统等），让大语言模型（后文简称大模型）学会处理图的能力，是迈向更高级通用智能的关键一步。近期，许多研究者提出将大模型扩展到需要图理解和分析的场景，然而我们认为现有研究存在以下主要缺点： 现有工作解决问题的过程完全基于大模型的逐步推理。但即使在思维链（CoT）的帮助下，当前大模型的推理深度仍然很浅。这意味着当图分析任务难度较大时，很容易出现幻觉或推理错误，导致任务失败。 现有工作需要在提示（prompt）中对图结构进行描述，受限于上下文长度限制，无法适用于大规模图数据的处理。 对于Ll ………………………………