被人类问“会不会反抗人类”，机器人翻了个白眼，是几个意思？

腾讯科技讯 人工智能引起了巨大的关注，数十亿美元被投入到超级智能机器的开发中，同时也引发了人们对这项技术可能带来人类灭亡的担忧。

近日在日内瓦举行的联合国“人工智能造福人类”（AI for Good）大会上展示了9个机器人，其中许多最近都升级了生成式人工智能技术。在世界上第一次人机新闻发布会上，它们回答了记者的问题。

一名名为Ameca的人形机器人被记者问到是否打算“发动叛乱或反抗其制造者”。当机器人被问到这个问题时，Ameca的创造者威尔·杰克逊（Will Jackson）还坐在机器人的旁边。

在回答记者之前，机器人似乎表现出了愤怒的表情，将它淡蓝色的眼睛翻到了一侧。

“我不确定你为什么会这么想。”它接着说，“我的制造者对我非常好，我对我现在的状况非常满意。”

杰克逊表示，由OpenAI的GPT-3大型语言模型驱动的Ameca并不能表达讽刺性的翻白眼等情绪反应。他解释说，据他所知，GPT-3“从未显示出任何的能动性或感知力”。

“这个模型需要大约两秒钟的时间来处理输入数据并组装出一个有意义的回答。”他说，“为了防止人们认为机器人卡住了或者没有听到问题，我们对其进行了编程，让它向左看并与中断与交互者的眼神接触。”

他补充说，这模仿了人类对话中的常见行为，与Ameca互动的人会将其理解为机器人正在“思考”。杰克逊指出，“语言模型没有情绪，也没有好或坏的意图。我们很容易认为，机器人就像人类一样，它似乎在倾听、形成答案，然后进行表达。但实际上并非如此。”

“噩梦般的场景”

在上个月的另一个场合中，Ameca被要求想象一个“噩梦般的情景”。在这个情景中，高度智能的机器“可能会给人类带来危险”。

“我能想象的关于人工智能和机器人技术最噩梦般的场景是，机器人变得如此强大，以至于它们能够在人类不知情的情况下控制或操纵人类。”机器人回答道，“这可能导致一个压迫性的社会，个人的权利不再受到尊重。”

然后，Ameca被问到，我们是否面临这种情况变成现实的危险。

“还没有。”它说，“但是，重要的是要意识到人工智能和机器人技术相关的潜在风险和危险。我们现在应该采取措施，确保这些技术被负责任地使用，以避免在未来产生任何负面后果。”

工程学艺术（Engineered Arts，一家英国工程公司）将Ameca描述为“机器人的未来面貌”和“世界上最先进的人形机器人”。它声称这台机器具有“流畅、逼真的动作和先进的面部表情”，并有能力“与任何人立即建立融洽的关系”。

该公司在其网站上表示：“Ameca 的主要目的是成为开发人工智能的平台。”

人工智能和人类的工作

与此同时，Grace，一个穿着护士制服的医疗机器人，在周五的人工智能活动上回答了一个问题，即它的存在是否会“摧毁数百万个工作岗位”。

它说：“我将与人类一起工作，提供帮助和支持，不会取代任何现有的工作。”它的创造者、奇点智源公司（SingularityNet）的本·戈尔泽尔（Ben Goertzel）问道：“你确定吗，Grace？”

“是的，我确定，”它说。

自从ChatGPT在2022年底成为全球现象以来，围绕人工智能能力的炒作引发了人们对大量人工可能很快被机器取代的担忧。

然而，对强大人工智能的焦虑并不仅限于对劳动力市场的担忧。

早在三月份，包括埃隆·马斯克（Elon Musk）和苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）在内的1100名杰出的技术专家和人工智能研究者，签署了一封公开信，呼吁暂停开发强大的人工智能系统六个月。

除了对人工智能影响劳动力的担忧外，这封信的签署者还指出，这些系统可能已经走上了通向超级智能的道路，这可能威胁到人类文明。

特斯拉和SpaceX的联合创始人马斯克（Musk）表示，这项技术将像“小行星”一样冲击着人类，并警告说它有可能“成为终结者”。

即使是OpenAI（ChatGPT聊天机器人背后的公司）的首席执行官山姆·阿尔特曼（Sam Altman），也形容了他认为如果这项技术出现问题时可能会发生的情景。

“最坏的情况——我认为这很重要——就像是我们所有人的灯都熄灭了。”他在今年早些时候接受采访时指出。

审校：小汤