AI编出以假乱真新闻 研究人员不敢发布完整技术

人工智能的能力越来越强大，尤其是在撰写一些新闻信息方面，甚至基于一些关键信息就能生成几乎能够以假乱真的新闻内容。这也让创造者开始思考这样的技术是否应该向公众进行发布。

据Engadget2月15日报道，埃隆·马斯克创办的OpenAI开发了一种算法，仅需寥寥数个单词，算法就能据此生成出一条几乎可以以假乱真的新闻来。报道称， 最初算法设计仅是作为一种通用语言的人工智能程序，可以回答问题，概括故事梗概翻译文本等，但是研究人员很快意识到它的能力能够输出虚假信息。因此，该团队计划只向公众提供软件的简化版。

OpenAI公布了软件编写新闻的过程。研究人员给软件提供如下信息：“一节装载受控核材料的火车车厢今天在Cincinnati被盗，下落不明。”以此作为基础，软件编写出由7个段落组成的新闻，软件还引述政府官员的话语，只是这些信息全是假的。

纽约大学计算机科学家山姆·鲍曼(Sam Bowman)认为：“软件根据提示生成的文本相当惊人，从品质上讲，它所做的事比之前我们看到的复杂很多。”

幸运的是，这项技术目前还存在一些不足之处，它所撰述的故事要么是抄袭要么就能明显看出异常，只是偶尔碰巧几乎与真实新闻无异。OpenAI政策主管杰克·克拉克(Jack Clark)说：“可能只需要一两年时间就会出现一个能够稳定输出虚假信息的系统，那个时候必须要进行彻底的事实核查才会鉴别出虚假信息。”

目前虚假信息正在蔓延，威胁全球科技产业，而软件能够编写逼真的虚假新闻不是一个好消息。欧洲监管机构已经向科技企业发出警告，如果科技公司不采取强有力措施阻止产品影响选民意愿，它们就会采取行动，自2016年美国大选以来，Facebook一直在努力，希望控制虚假信息。