【原】Nature| AI助手能激发学术创新吗?专家分析利与弊

人工智能搜索引擎整理学术文献开发者希望通过帮助科学家汲取大量文献的联系,使他们能够专注于发现和创新。对过去如此着迷的研究员穆斯塔克·比拉尔,却花费大量时间沉浸在明天的技术中。这位在丹麦南丹麦大学奥dense分校做博士后研究的比拉尔,研究19世纪文学小说的演变。但他或许最出名的是他的在线教程,在教程中他扮演学术界和快速扩张的人工智能搜索工具世界之间非正式的大使角色。汲取文学学者背景,比拉尔多年来一直在解析学术写作的过程,但他的工作现在采取了新的方法。“当ChatGPT去年11月问世时,我意识到可以用不同的AI应用程序来自动化许多步骤。”他说。 这新一代由机器学习和大语言模型驱动的搜索引擎,正在从庞大的学术文献的纠缠网中提取联系,超越关键词搜索。一些程序,如Consensus,可以对是非题给出研究支撑的答案;其他程序,如Semantic Scholar、Elicit和Iris,充当数字助手——整理参考书目,建议新论文,生成研究总结。总体上,这些平台促进了写作过程的许多初期步骤。批评者指出,这些程序仍相对未经充分测试,存在永远现有的学术出版偏见的风险。

ChatGPT和生成AI对科学意味着什么 这些工具背后的团队说,他们建立这些工具是为了应对“信息过载”,使科学家能够更有创造力。西雅图艾伦人工智能研究所的丹尼尔·韦尔德和Semantic Scholar的首席科学家说,科学知识增长如此之快,几乎不可能全面了解最新研究。“大多数搜索引擎帮你找到论文,但之后你要靠自己消化它们。”他说。韦尔德说,通过提炼论文的关键点,AI工具使信息更易获取。“我们都曾忠实地使用谷歌学术,我仍发现它有帮助,但我们的想法是,我们可以做得更好。”下一个伟大的想法 做得更好的关键在于不同类型的搜索。谷歌学术、PubMed和其他标准搜索工具使用关键词定位类似论文。相比之下,AI算法使用向量比较。论文从词转换成一组数字,称为向量,它们在“向量空间”中的接近程度对应它们的相似度。总部在加州旧金山的Consensus软件工程师首席梅根·凡·韦利说:“我们可以解析你搜索查询的更多意图,上下文嵌入向量中的信息比嵌入文本本身的信息更多。” 比拉尔使用AI工具沿着有趣的兔子洞追踪论文之间的联系。当研究巴基斯坦小说中对穆斯林的描述时,基于他的搜索AI生成的推荐引导比拉尔到孟加拉文学,他最终在他的论文中加入了一个关于它的部分。在他的博士后研究中,比拉尔正在研究丹麦作家汉斯·克里斯蒂安·安徒生的故事如何在殖民丹麦文学史上占有重要地位,他也会运用AI工具。"我会询问,'告诉我关于安徒生在东方主义方面的研究的几篇最重要的论文。’"他说。这种请求会产生一份由算法整理的阅读清单。

AI还可以自动生成研究摘要。Semantic Scholar的韦尔德说,他的团队正在训练算法学习如何提取关键信息点并重新包装成新的形式。这可以包括为导论或方法部分生成大纲,或为整篇论文生成摘要。尽管这些功能听起来很有诱惑力,但批评者警告说,它们可能会导致学术抄袭或使研究人员偏离开拓性的工作。“这些工具的一个潜在问题是,它们可能会促使你重复已有的研究而不是创造新的研究。” 加州大学伯克利分校信息学院副教授德维德·バム伯格说。他还担心文本生成算法可能会无意中复制先前的工作。  为了减轻这些担忧,开发人员正在设计安全措施。Anthropic的Iris可以显示其摘要的来源,Consensus也会显示其“证据链”。韦尔德说,Semantic Scholar也在探索让用户了解文本来源的方式。他补充说,尽管算法不能代替人类判断,但它们仍可在写作过程中发挥作用。比拉尔认为,如果使用得当,AI可以成为一种“思考伙伴”,帮助研究人员获得灵感并发展创新思维。他说:“它释放了我们的想象力,让我们有更多时间去做下一件重要的事情。” 

AI搜索工具确实为学术工作流程提供了新的可能性。但是要谨慎使用,避免依赖和抄袭。在我看来,这些工具的最大价值在于帮助学者发现新的联系和视角。它们可以通过建议相关文献、提出问题的新方式来激发创造力。但关键是要保持开放和批判的思维。学者应该将AI视为一种辅助工具,而不是依赖它提供完整的答案或观点。我们必须训练自己的判断力,检查结果的质量,并思考算法的局限性。还需要保持好奇心,主动探索文献而不仅仅依赖推荐。同时,我们要警惕抄袭的风险。生成的文本如果用于论文,必须正确引用来源并进行修改。作为一名学者,我们有责任确保学术诚信。总体来说,AI搜索工具为学术工作打开了新的窗口,但也带来了新的挑战。只有做到明智使用,才能发挥它们的最大价值,同时避免依赖和伦理风险。保持开放和批判的思维至关重要。我相信如果我们能找到平衡,这些工具将成为提升学术创新的有力助手。

Nature 620, 456-457 (2023)

doi: https:///10.1038/d41586-023-01907-z

【免责声明】图文来自网络，版权属于原作者，如有侵权或非授权发布之嫌，请联系我们，我们将及时更正、删除。转载目的在于促进信息交流，并不代表本公众号赞同其观点或对其内容真实性负责。欢迎关注PaperRSS公众号，每天都在更新。