◎刘霞

科研能否完全自动化？一个国际人工智能研究团队正在探索这一可能。

据《自然》网站报道，日本Sakana AI公司与加拿大、英国科学家合作，创建了一个基于大语言模型的“人工智能科学家”。它可以自主完成阅读文献、提出新假设、尝试解决方案和撰写论文等全流程工作。

Sakana公司在官网上表示，该科研“新星”是首个用于自动化科研和开放性发现的综合AI系统，标志着科学发现新时代的来临。尽管它展现出非凡潜力，但也应警惕被滥用的风险。

流畅高效的科研流程

随着AI技术进步，科学家可利用一些模型集思广益或编写代码，但这些模型仍需大量人工监督或仅能执行特定任务。

加拿大不列颠哥伦比亚大学等机构的研究人员成功创建了首位“AI科学家”。在想法生成阶段，该“AI科学家”基于起始模板进行“头脑风暴”，提出不同研究方向，并广泛搜索确保想法的新颖性和有趣性；在实验迭代阶段，它会开展实验、生成图表并添加注释；在论文写作阶段，模仿标准机器学习会议风格撰写论文，并自主查找引用；在自动化同行评审阶段，研究团队开发了“AI审稿人”，其评估生成论文的准确性可与人类匹敌。该评估可用于改进项目，形成持续反馈循环，帮助“AI科学家”不断改进研究成果。

在首次展示中，该“AI科学家”深入研究了扩散模型、Transformer模型和AI“领悟”等机器学习子领域，共生成了10篇论文，每篇论文的成本约15美元。

美国华盛顿大学计算社会科学家杰文·韦斯特对“AI科学家”流畅高效的科研流程表示赞赏，认为其有望加速科学发现。

不完美仍需改进

尽管这位“AI科学家”潜力巨大，但也并非尽善尽美。

Sakana AI公司指出，“AI科学家”目前不具备视觉功能，无法修复论文中图表出现的问题。例如，生成的图表有时无法读取，表格可能超出页面范围，页面布局也不够美观。

这个“AI科学家”虽然想法有时是对的，但实际操作却可能出错，或者因为比较不恰当导致结果误导人。它在写论文和分析结论时，也会犯一些低级错误，比如很难比较两个数字的大小，这是大型语言模型的通病。为了解决这个问题，研究团队确保所有实验结果都能重复，并保存了所有执行文件。

研究人员希望，未来多模态模型的加入，能够帮助这个“AI科学家”更上一层楼。

这个“AI科学家”目前只能做机器学习领域的研究，而且缺乏科研过程中最关键的一环：动手做实验的能力。

艾伦人工智能研究所的计算机科学家汤姆·霍普认为，目前这个大型语言模型“还不能提出和制定新颖有用的科学方向”。劳伦斯伯克利国家实验室的材料科学家赫布兰德·希德则认为，即使这个系统短期内无法完成更有创造性的工作，但也能将科研过程中一些重复性的工作自动化。

Sakana AI也强调，这类系统能否提出真正具有变革性的想法还有待观察。未来的“AI科学家”能否发明出像人工神经网络或信息论这样的概念，仍然是一个未知数。

能力越强，使用越要谨慎

研究人员表示，要让这个“AI科学家”的能力更强大，能够研究更抽象的领域，比如纯数学领域，可能需要语言模型之外的其他技术。

例如，解决数学问题需要逻辑推理能力，而目前大多数AI模型都不擅长逻辑推理。谷歌深度思维公司开发了AlphaGeometr，将语言模型与符号引擎（使用符号和逻辑规则进行推理）相结合，构建了一种神经-符号混合系统。在今年的奥林匹克数学竞赛中，升级后的AlphaGeometry2在19秒内就解答出一道题，远超人类选手。

研究人员相信，目前的迭代只是一个开始。“AI科学家”就像AI科研自动化领域的GPT-1。随着不断迭代，它将像现在的GPT-4一样，引发新的科研革命。

与许多新技术一样，“AI科学家”也可能被滥用，带来潜在风险。