ICML 2024 | 冷静看待大型语言模型在材料发现中的作用

文章预览

DRUG AI 今天为大家介绍的是来自Geoff Pleiss团队的一篇论文。自动化是当代材料发现的基石之一。贝叶斯优化（BO）是这种工作流程中的重要部分，使科学家能够利用先验领域知识高效地探索庞大的分子空间。尽管这些先验知识可以采取多种形式，但围绕大型语言模型（LLM）所包含的辅助科学知识有着显著的关注。然而，现有的工作迄今为止仅探讨了LLM在启发式材料搜索中的应用。实际上，最近的研究从点估计的非贝叶斯LLM中获得了不确定性估计，这是BO的核心部分。在本研究中，作者探讨了LLM是否真的有助于加速分子空间中基于原则的贝叶斯优化。作者采取冷静而客观的态度回答这一问题。具体来说，通过（i）将LLM视为标准但基于原则的BO代理模型的固定特征提取器，以及（ii）利用参数高效的微调方法和贝叶斯神经网络来获得LLM代理模型的后验分 ………………………………