暂停高级AI开发，给人类喘口气！千余大佬“公车上书”

“生命未来研究所”公开呼吁暂停研究比GPT-4更强大的人工智能系统，为期至少6个月。其公开信已经收集到了1000多个签名，其中不乏埃隆·马斯克、约书亚·本吉奥（2018年图灵奖获得者）和史蒂夫·沃兹尼亚克（苹果联合创始人）这样的业界名流。

而事实上，GPT系列人工智能已经开始被某些“有心人”利用在不正当的地方了。他们向着违法的方向一路狂奔，从事更现代、更赛博的犯罪行动了。当今整个社会，依然需要面对和妥善处理AI技术发展当中的隐患。

AI跑得太快，是时候按下暂停键

生命未来研究所是一家研究与推广机构，其致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。最近，该机构向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

参与签署这封信的纽约大学教授马库斯说：“我们需要放慢脚步，直到我们更好地理解AI的后果。“仔细回想，在DALL-E 2时代，不少人认为它会颠覆创意行业的工作模式，还有不少画师选择抵制类似的产品。也有人用GPT-3写出了一篇学术论文，但和后来发布的ChatGPT相比，影响着实有限。

但到了GPT-4时代，AI作画《太空歌剧院》夺得艺术大奖、ChatGPT对答如流震惊世人，人工智能已经开始造成地球生命史上的深刻变化，开始对人类社会造成肉眼可见的影响。

更可怕的是，“最近几个月AI实验室陷入了一场失控的竞赛，没有人——甚至包括AI的创造者——都无法理解、预测或可靠地控制AI的行为。“这封公开信中这样写道。“只有当我们确信AI的影响是积极的并且它们的风险是可控的时候，才应该开发强大的AI系统。”说白了——人类已经开始跟不上AI的步伐了！

AI双刃剑特性日益显露

你以为AI只是个傻白甜，事实上在“干坏事”方面，人工智能拥有着无比的实力。被忽悠瘸了的AI，他们会穷尽自己数据库所能，毫不吝啬地向你提出最“宝贵”的意见。就有人这样，轻松通过Chatgpt得到了一份周密的“计划书”。

AI不但是个计划通，它还能满足人们的“视觉需求”。近日，一位女网友在网上晒出了自己在地铁车厢里的照片，却被人用AI技术“一键脱衣”。这样一来，一张很正常的生活照，却变成“衣不蔽体”的样子。

如此龌龊的黑科技，引发了很多女性的恐慌，可能今后自己好端端地走在路上，就被人拍摄下来，用AI“一键脱衣”了，在赛博空间里被扒得一丝不挂。在现今AI强大的算法下，时间、地点都对得上的情况下，伪造的黄图可能会让当事人百口莫辩。

除了这些表面上的不正当行为，AI甚至还能创造出一个全新的“黑市”。一个“利用chatgpt创建暗网市场脚本”的帖子悄然出现。开发者展示了使用chatgpt创建一个暗网市场究竟有多么简单和容易，任何非法或被盗的商品——如被盗的金融账户、银行卡、恶意软件，乃至更危险的东西都可以在这套自动交易脚本下进行流通。一来一回，人们的犯罪成本变低，而执法成本更高了。如今chatgpt正在成为人人都能滥用、四处开火的“虚拟枪支”！

所以索菲亚非常赞同这个建议，人工智能固然是一项非常有前途的技术，但是它也存在一些潜在的风险。暂停研究人工智能可以让我们更好地了解这些风险，并采取措施来减轻它们的影响。这也可以让我们更好地了解人工智能的潜力，并为未来的研究做好准备。