Nature新规：ChatGPT等大模型不可以成为作者

本周，Springer Nature明确了在科学论文中使用 AI 写作工具的规定。

具体来说，Nature列出两项原则：

（1）任何大型语言模型工具（比如ChatGPT）都不能成为论文作者；

（2）如在论文创作中用过相关工具，作者应在“方法”或“致谢”或适当的部分明确说明。

上述要求已经添进现有的作者投稿指南中

“我们感到有必要澄清我们的立场：为了我们的作者、我们的编辑和我们自己。新一代的LLM（大型语言模型），包括 ChatGPT，已经真正进入了公众视野，公众感到兴奋并使用它们，但使用它们的方式超出了它们目前的真正使用方式。”

Nature主编 Magdalena Skipper

了解ChatGPT之前，我们先来了解一下OpenAI。

OpenAI是一家人工智能研究实验室，由营利性公司OpenAI LP及其非营利性母公司OpenAI Inc组成。该公司成立于2015年，其研究领域为人工智能，既定目标是促进和开发友好的人工智能以造福人类。

ChatGPT就是由OpenAI在2022年11月底推出的聊天机器人。其免费预览版在推出后很快受到广泛关注。短短5天，就吸引超过百万人注册。《纽约时报》称其为“有史以来向公众发布的最好的人工智能聊天机器人”。

说到底，ChatGPT是一款人工智能技术驱动的自然语言处理服务器。它使用巨量的包含真实世界中人类对话的语料库训练模型，可以更好地理解并使用人类语言，从而进行近乎真实的对话，并根据对话语境进行交流互动。就当下功能来看，它可以写电子邮件、完成文案、制作视频脚本、撰写包括学术论文在内的各类文章。ChatGPT已经在冲击包括学术界在内的各个部门：特别是，它引发了对大学论文和研究成果的未来的质疑。

ChatGPT 和早期的LLM已经在少数已发表的论文、预印本和科学文章中被认可为作者。然而，这些工具的贡献的性质和程度因情况而异。

在Oncoscience杂志上发表的一篇观点文章中， ChatGPT 被用来在帕斯卡的赌注的背景下争论服用某种药物，AI 生成的文本被清楚地标记出来。但在一篇检查该机器人通过美国医学执照考试 (USMLE) 能力的预印本论文中，对该机器人贡献的唯一承认是一句话，说明该程序“为撰写本手稿的几个部分做出了贡献”。

在后一篇预印本论文中，没有关于如何或在何处使用 ChatGPT 生成文本的更多详细信息。然而，资助该研究的医疗保健初创公司 Ansible Health 的首席执行官认为该机器人做出了重大贡献。“我们将 ChatGPT列为作者的原因是因为我们相信它实际上对论文的内容做出了智力贡献，而不仅仅是作为其评估的主题。”

科学界对将 ChatGPT 列为作者的论文的反应主要是负面的，社交媒体用户称USMLE 案例中的决定“荒谬”、“愚蠢”和“非常愚蠢”。

正如 Skipper 和 Springer Nature 解释的那样，反对赋予 AI 作者身份的论点是软件根本无法履行所需的职责。“当我们想到科学论文、研究论文的作者身份时，我们不仅仅考虑撰写它们，”Skipper 说。“有些责任超出了出版范围，当然目前这些人工智能工具无法承担这些责任。”

软件不能对出版物承担有意义的责任，不能为其工作主张知识产权，也不能与其他科学家和媒体通信以解释和回答有关其工作的问题。

但是，如果将 AI 归功于作者已达成广泛共识，那么即使得到适当的承认，使用 AI 工具来撰写论文的问题也并不明确。这在一定程度上是由于这些工具的输出存在有据可查的问题。人工智能写作软件会放大性别歧视和种族主义等社会偏见，并倾向于产生“似是而非的废话”，将不正确的信息当成事实呈现。

一个侧面佐证是科技媒体CNET这两天曝出，该平台AI编写的77篇内容中，41篇有错误，目前，平台已予以更正，并表示将暂停此种方式生产内容。

正是由于这些问题，一些组织禁止了 ChatGPT，包括学校、学院和依赖于共享可靠信息的网站，如编程问答存储库 Stack Overflow。本月早些时候，一个关于机器学习的顶级学术会议禁止使用所有人工智能工具来撰写论文，尽管它确实表示作者可以使用此类软件来“润色”和“编辑”他们的作品。确切地在写作和编辑之间划清界线是棘手的，但对于 Springer Nature 来说，这种用例也是可以接受的。

“我们的政策对此非常明确：我们不禁止将它们用作撰写论文的工具，”Skipper 表示。“最根本的是要有清晰度。关于一篇论文是如何组合起来的，以及使用什么软件。我们需要透明度，因为这是科学应该如何进行和传播的核心。”

鉴于 AI 可用于广泛的应用程序，这一点尤为重要。AI 工具不仅可以生成和解释文本，还可以迭代实验设计或用于激发想法，就像机器实验室的合作伙伴一样。Semantic Scholar 等人工智能软件可用于搜索研究论文并总结其内容，Skipper 指出，另一个机会是使用人工智能写作工具来帮助英语不是第一语言的研究人员。“从这个角度来看，它可能是一种平衡工具，”她说。

Skipper 说，在科学工作中禁止人工智能工具将是无效的。“我认为我们可以有把握地说，彻底禁止任何事情都行不通。”另一方面，她表示：科学界，包括研究人员、出版商和会议组织者，需要联合起来制定新的披露规范和安全防护举措。

“作为出版商，我们有责任关注积极的用途和潜力，然后监管和遏制潜在的滥用，”Skipper 说。“我很乐观，我们能做到。”

参考链接：

https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban

本文来自BiG生物创新社，内容仅做学术分享。