警示AI潜在危险 人工智能技术先驱之一离开谷歌

人工智能再次成为舆论争论核心。被认为是人工智能技术先驱之一的杰弗里·辛顿（Geoffrey Hinton）宣布从谷歌公司辞职，据他一条推文，这位75岁的计算机科学家这样做是为了可以公开谈论人工智能潜在危险。

杰弗里-辛顿在媒体公布他离职后发布一条推特说，"我离开了，这样我就可以谈论人工智能的危险，而不用担心对谷歌的任何影响，"他表示，这一领域的进步带来了 "对社会和人类的深远风险"。

他主要的担心包括：误导性信息、对就业岗位的破坏以及更多 "令人恐惧"的前景。他说，“我们正在做什么来减少被比我们更聪明的东西接管的长期风险？像GPT4，它已经在知识量上令一个人相形见绌。在推理方面，它还没有那么好，但已经可以做简单的推理。而考虑到其进步的速度，预计将会有很快地改善”。

他说，“因此我们都需要关注这个问题”。辛顿还在媒体上警告说，人工智能可能快速产生大量的错误信息。“很难看到我们如何能够避免坏的行为者利用它做坏事。”辛顿对这项有争议技术的发展方向表示担忧 ，不只是辛顿，在OpenAI于3月发布其最新GPT-4后，包括亿万富翁埃隆-马斯克和苹果联合创始人史蒂夫-沃兹尼亚克在内的一千多名科技行业人士联名签署了一封信，呼吁暂停对人工智能开发六个月的时间。

据媒体报道，辛顿是在上个月通知谷歌他的辞职决定的。在确认有关他离职的推文中，辛顿否认了这一决定是对谷歌批评的说法，他说，谷歌到目前为止是一个负责任的技术开发和管理者，但正面临着来自竞争对手越来越大的压力。

这位研究人员说，科技巨头们现在陷入了一场AI竞赛中，而这场竞赛只有在全球监管下才会停止。据报道，辛顿因其毕生从事神经网络的研究而被称为“AI 之父”，2019年，他与其他两位人工智能专家一起获得图灵奖，该奖被誉为计算机科学的诺贝尔奖。