ChatGPT的荒谬言论

ChatGPT发布荒谬言论：用户大跌眼镜

据OpenAI表示，ChatGPT聊天机器人在昨晚发布了一些荒谬言论，令用户大跌眼镜。

2024年2月20日晚上11点40分（协调世界时），OpenAI表示：“我们正在调查关于ChatGPT意外回复的报告”，而用户则欣然发布了聊天机器人发出荒谬言论的图片。

尽管有些明显是假的，但其他回复表明这款受欢迎的聊天机器人确实表现得非常奇怪。在Reddit的ChatGPT论坛上，一位用户发布了聊天机器人对问题“计算机是什么？”的奇怪、冗长的回复。

回复开始说：“它做到了这一点，作为国家艺术的好工作，作为科学的一只老鼠，作为一小部分悲伤的轻松绘图...”，然后继续下去，变得越来越离奇。

其他用户发布了聊天机器人用不同语言回复的示例，或者只是回复了毫无意义的垃圾。

有些用户将其描述为“词汇沙拉”。

Gary Marcus，一位认知科学家和人工智能专家，在他的博客中写道：“ChatGPT已经失控”，并继续将其行为描述为“一个警告”。

OpenAI并没有详细说明到底发生了什么，尽管一个可能的理论是幕后用于控制聊天机器人回复的设置中的一个或多个设置被错误配置，导致向用户呈现了胡言乱语。

在首次承认问题出现七分钟后，OpenAI表示：“问题已经被识别，并正在进行补救”，此后一直在监控情况。当我们今天早上尝试了“计算机是什么？”这个问题时，ChatGPT给出了一个更合理的回答：“计算机是一种可编程的电子设备，可以存储、检索和处理数据。”

我们还问它为什么昨晚失控了。

它回答说：

作为一个AI语言模型，我没有情感或意识，所以我无法像人类一样“失控”。然而，有时意外的行为可能是由于编程错误、对输入的误解或训练数据的限制造成的。

马库斯（Marcus）评论道：“最终，生成式人工智能是一种炼金术。人们收集尽可能多的数据，然后（如果传言可信）尝试调整隐藏提示的类型... 希望一切都能正常运作。”

他接着说，事实上，这些系统从来没有稳定过，并且缺乏安全保证。“对于更不透明、更可解释、更可维护和更易于调试的完全不同的技术的需求仍然是首要的。”