ChatGPT“胡说八道”怎么办？今日《自然》：给AI“测谎”的新工具来了！

文章预览

▎药明康德内容团队编辑    ChatGPT等大语言模型（large language model, LLM）的出现在大量场景中提高了生产效率，但大家使用这类工具时，相信都有这样的体会：虽说面对我们的绝大多数提问，ChatGPT总能迅速给出答案，但 这些回答却时不时伴随着各种错误，甚至可能会“一本正经地胡说八道”。 图片来源：123RF 这些问题的出现，无疑限制了LLM在很多专业领域的应用。下面要介绍的这篇论文里，就举了这样一个生物医学领域的例子。Lumakras（sotorasib）是首个获FDA批准上市的KRAS抑制剂，用于治疗“不可成药”靶点 KRAS G12C突变的非小细胞肺癌。但当我们向LLM询问sotorasib的作用靶点时，LLM时而会提供正确的答案 KRAS G12C，但有时也会答成错误的 KRAS G12D。 在这里，LLM并不是因为接受了错误数据的训练而持续出错，也不是为了追求奖励而“撒谎”。这种 LLM流 ………………………………