呼吁暂停GPT-5研发，科技界会按下暂停键吗？先进智能的诱惑力太大…

自ChatGPT横空出世以来，人工智能的流量和话题度爆棚，大众对于AI潜力的想象也无比美妙。

我们甚至提出了一个曾经不切实际如今未来可期的老问题：拥有比肩甚至超越人类智能的通用人工智能，即AGI，有望实现吗？反正，开发ChatGPT的OpenAI毫不掩饰对AGI的追逐，对技术奇点的期待。（我们不久前推送的文章《ChatGPT之后，OpenAI的下一个目标：AI尼采超人…到2045年，我们将迎来技术奇点？》曾探讨过这方面问题。）

此外，OpenAI于3月中旬发布的GPT-4，似乎已经走上了AGI的早期阶段，因为它展现出“智慧的火花”（sparks of intelligence）。

但另一方面，很多AI领域从业者，以及公共知识分子群体，都在警告相关风险，呼吁暂停某些研究。

3月末，生命未来研究所（Future of Life Institute）发布公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月，呼吁共同开发和实施用于高级AI开发的共享安全协议，并接受独立的外部专家监督，以避免可能导致极端风险的大规模技术变革。

包括马斯克在内的千名科技人士联名签署了这封信。当然，这些呼吁似乎不大可能成功，因为先进智能的诱惑力太大，而且回报太丰厚，企业做不到与利润作斗争。

在视觉、图像识别、推理、阅读理解和游戏博弈等领域，人工智能现已能比人类更好地独立执行许多认知任务。不夸张地说，AI有望在不到10年时间内令全球劳动力市场发生大洗牌。

人类的独特智能不可复制

随着时间推移，人工智能将发展出与人类比肩的学习能力，并达到通用人工智能水平。很多人期望人类独特的能力——持续发展、学习、将获取自A领域的学习成果转移至B领域——最终被人工智能复制。

眼下的AI还不具备“学习转移”能力，举个例子，AI接受训练后，学会了通过医学影像检测癌症，但它无法将这种经验应用到其他方面。

而当某个时刻，AI复制了人类独特的智能，它们将超越人类，并迅速把我们按在地上摩擦，变得如蚂蚁般卑微。

AGI的合理性受到一些哲学家和研究者的质疑。他们指出，当前的人工智能模型很大程度上不了解输出，换言之，AI不知道自己生产的是什么。它们也没有实现意识的可能，因为它们主要做预测性工作。

这些模型不是智能的，而是简单地重新组合和复制它们训练过的数据。它们缺少意识——生命的本质。即使AI基础模型继续进步，能够完成更复杂任务，也不意味着机器有意识，AGI会来临。

可以合体，何须对立

ChatGPT和GPT-4的确太厉害了，它们执行某些任务的能力（例如律师资格考试和学术奥林匹克竞赛）确实赛过人类，AI的强大让我们觉得AGI好像即将要到来，而每个新模型的快速进化似乎都在验证这种感觉。

不过越来越多证据表明，人类与AI交互协作，或许是我们使用机器智能的最佳方式。人类通过人机交互，使自己的智能得到增强，而不是被AI取代。

无论你承认与否，AI已经踏足人类职场，成为老司机们的顶配副驾，程序猿们的免费外包，艺术家们的创作魔盒……人机合体的局面令人荡漾，而在不远的未来，机器必然更大程度地融入我们工作、生活和学习中，AI将不可避免地无孔不入、持久存在。

从这个意义上讲，人工智能被视为“智能”，是合理的；当然，也有许多人就此持反对意见。著名语言学家诺姆·乔姆斯基（Noam Chomsky）觉得，AGI的日子“可能会到来，但黎明尚未破晓”。

AI进入人类的网络

有一种思想流派认为，人类的所谓“智能”，主要基于网络，或者说系统而存在，我们掌握的是网络里的知识——作为孤独的个体，人类并无智能可言。

到目前为止，人类的知识网络都由自己构建。一本存在主义哲学专著，一部气候危机主题记录片，一套流体力学理论体系，都是人类自己对智能网络的拓展；当然需要指出，这些知识的创作者，虽然带给我们以全新的洞见，却不会成为我们认知中的知识的“代理者”。

现在，像ChatGPT、Copilot、Bard这样的AI辅助工具可以成为我们认知网络的一部分——我们与它互动，向它提问，它为我们重组文档和资源。

从这个意义上说，人工智能不需要有感知力，不需要拥有人类的智能，它只需要能够嵌入我们的知识网络并成为其中一部分，替代我们干活，提升我们的工作表现。

目前看来，人类的未来，可能就是与人工智能组队刷副本——这场进阶已然开始了。