第一个自动做科研的AI出现了，我们能信任机器吗？

主要观点总结

文章介绍了日本创业公司Sakana AI创造的人工智能科学家THE AI SCIENTIST（AI Scientist），它能以每篇10美元的成本，7*24小时持续工作，实现科研全流程自动化。但学界对于AI在科研中的使用存在激烈争论，有不同观点。文章还介绍了大模型在辅助科研领域的能力可能不一定符合预设，需要注意大模型会虚构数据的风险。

关键观点总结

关键观点1: AI Scientist的实现与特点

基于大语言模型（LLM）的AI Scientist是一个端对端的完整工作流程，目前只能从事机器学习的相关研究。它能够网上搜索相关文献，根据新颖性对研究思路进行排名，自动编写代码并运行，负责代码审核的部分会确保生成的代码不包含无关研究思路的内容。最终，如果实验能得到描述实验结果的图表，AI Scientist会进行论文文稿的撰写。

关键观点2: AI Scientist的研究进展与评估

在研究中，AI Scientist使用大模型Claude 3.5、GPT-4及开源的Deepseek coder和Llama-3.1，产生了52个研究思路。最终只有不到一半的研究最终完成论文撰写。大模型驱动的评审智能体自动生成对文稿的审稿意见和打分。这项研究初步论证了AI有可能独立产生科学发现，但现在的进展还不足以说明AI能够取代科学家独立开展研究。

关键观点3: AI在科研领域的风险与机遇

引入AI辅助科研存在风险，如大模型可能会生成虚构的参考文献、虚构的数据等。但同时，AI也有潜力成为合格的科研伦理审查者，并在科研过程中解放时间，提高效率。学界对于如何在科研过程中用好AI存在争议，需要分学科进行讨论和摸索。

文章预览

加 星标 ，才能不错过每日推送！方法见文末动图 研究人员创造了一个纯粹的AI科学家，从查阅文献到撰写论文，它可以实现科研全流程自动化。但对于AI在科研过程中的使用，科学家仍有不同观点。 撰 文 | 郭瑞东 随着人工智能 （AI） 的进步，越来越多的研究者尝试在科研过程的每一步尝试引入AI，而对于能否使用AI取代科学家展开研究，学界存在激烈的争论。日前， 日本创业公司Sakana AI创造出一个纯粹的人工智能科学家，他们将其命名为THE AI SCIENTIST （以下称AI Scientist） ，能够以每篇10美元的成本，7*24小时持续工作。该成果目前发布在arXiv预印本平台 [1] 。 图1 AI scientist的工作流程丨图源：参考文献[1] 基于大语言模型 （LLM） 的AI Scientist是一个端对端的完整工作流 （如图1所示） ，目前只能从事机器学习的相关研究。AI Scientist从产生新的研究议 ………………………………