“也许在接下来的几个月里,我们将看到第一批(由AI工具生成的)论文。”
这句话出自今年由COPE和STM共同召集的以论文工厂问题为核心的峰会上。科研诚信专家认为,随着人工智能(AI)的进步,未来针对合成图像、合成文本等内容的筛查可能变得更加困难。
时隔几个月,专家的“预言”已然成为现实:一篇收录于《Physica Scripta》期刊的论文在第三页出现了与文章内容毫无关联的短语“Regenerate Response(重新生成回复)”。这个疑点一经发现便被公开至同行评议网站PubPeer上。
发布者指出“Regenerate Response”是GhatGPT的功能按钮
https://pubpeer.com/publications/2BA0ED692A31818BE66AAB637BB3BE
最终,论文作者承认自己在写作论文稿件时确实使用了ChatGPT,期刊也以“作者未声明文章使用ChatGPT”的理由撤回了这篇论文。
https://iopscience.iop.org/article/10.1088/1402-4896/acf6b8
在国内,许多期刊编辑部也已经陆续收到AI生成稿件。针对这种不良现象,中国著名科幻杂志《科幻世界》在4月期杂志上正式宣布不接收AI创作的科幻小说;《中国科技期刊研究》编辑部也于2023年6月14日对关于AI生成论文内容发布政策声明。
9月20日,中国科学技术信息研究所联合爱思唯尔、施普林格·自然、约翰威立国际出版集团发布《学术出版中AIGC使用边界指南》,明晰了相关利益主体在学术期刊论文准备、写作、投稿、评审、出版、传播各环节应该履行的最佳行为实践,对各环节可否使用AIGC给出建议,以及详尽、规范的使用指导。《指南》建议研究人员使用AIGC直接生成的稿件文字等资料必须提供明确的披露和声明,否则将构成学术不端行为。
https://www.istic.ac.cn/html/1/284/338/1701698014446298352.html
在《指南》正式发布前,国内已经开始对AI生成工具的使用加以规范。今年国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部等联合发布的《生成式人工智能服务管理暂行办法》中指出,针对生成式人工智能服务要“完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引”;前不久提交审议的《中华人民共和国学位法(草案)》更是明确提出,学位论文或者实践成果存在人工智能代写等学术不端行为的,“由学位授予单位撤销学位证书”。
万方数据积极利用自身资源积累和技术优势,经过一年多的努力后开发出了万方文察-科技论文诚信风险综合察验服务。产品使用基于深度学习的AIGC识别算法,可识别目前较为通用的AI写作模型,包括且不限于ChatGPT、文心一言、谷歌Bard、通义千问等AI写作助手生成的中文文本。
万方文察集先进的算法模型、强大的数据资源底座为基础,提供科技论文诚信风险一站式便捷服务及多要素的综合察验,用户操作十分简便。填写基本信息、上传论文文本后,只需等待查看报告即可。报告指标清晰,内容丰富,既能提供可互动的在线报告,也能提供可保存至本地的下载报告,满足了不同用户的多样化需求。
万方文察是万方数据积极落实国家对生成式人工智能服务管理要求的具体举措,将为各行业落地实施《生成式人工智能服务管理暂行办法》提供技术基础,目前通过Web服务支撑各高校与科研学术机构的使用,为教育、科研、出版、管理等诚信监管工作提供便捷服务支撑。
万方文察服务入口:
https://cx.wanfangdata.com.cn/verification
领取专属 10元无门槛券
私享最新 技术干货