复旦团队提出Transformer生成的原子嵌入策略，可通过ML提高晶体特性的预测准确性

文章预览

将 ScienceAI   设为 星标 第一时间掌握 新鲜的 AI for Science 资讯 编辑 | 白菜叶 近年来，在化学分子性质与结构预测领域出现了大量基于 Transformer 的训练方法和预测模型，例如 OrbNet、3D-Transformer 等。 科学家们认为这些方法和模型，能够充分发挥 Transformer 架构在处理原子相互作用和捕捉三维结构方面的优势，从而高效地表示原子间复杂的相互作用。 在这些进步的推动下，复旦大学的研究人员开发了自制的 CrystalTransformer 模型，基于 Transformer 架构生成称为 ct-UAE 的通用原子嵌入，该模型为每个原子学习独特的「指纹」，捕捉它们在材料中的功能和相互作用的本质。 然后将得到的嵌入转移到不同的深度学习模型中。使用均匀流形近似和投影（UMAP）聚类方法，研究人员将原子分为不同的组，分析嵌入与真实原子之间的联系。 该研究以「 Transformer-generated a ………………………………