文章预览
北大计算机学院登Nature子刊：张铭教授团队联合华盛顿大学发现大语言模型可以轻易误导大规模医学图谱推理系统 从科研文本中构建的生物医学知识图谱已被广泛应用于辅助医学决策和挖掘新的医学发现。同时，大语言模型已经展示出了生成高质量文本的强大能力，此类文本在产生正面效益的同时也可能污染公开数据库造成不可控的负面影响。基于这些受污染数据库构建的医学知识图谱推理系统面临潜在风险，可能影响药物推荐和疾病研究等决策，甚至对患者的治疗效果和安全构成威胁。因此，揭示并准确评估这种风险，并制定相应的防御策略，在当今大模型和知识图谱推理广泛应用的背景下，具有十分重要且紧迫的研究意义。 2024年9月20日，北京大学计算机学院张铭教授团队联合华盛顿大学助理教授王晟、博士后肖之屏在国际顶尖人工智能期刊N
………………………………
