古老犹太传说，竟然提前警示我们小心人工智能

这个古老的犹太传说，是一个关于警世人工智能的故事

预计阅读时间5分钟。

人工智能很强大，但也很危险。

拉比-洛夫和格莱姆

在古老的布拉格，有一个古老的犹太传说，一位名叫拉比的巫师创造了一种强大的生物：魔像。像机器人和AI（人工智能）一样，魔像最初听从主人的一切命令——但最终，却都变得非常糟糕。

这个关于人工智能，优势和重大劣势的早期故事，可以给予我们很多关于现代人工智能系统的启事，比如 ChatGPT 和 Midjourney（这两个都是现在最火、最先进的人工智能应用，有兴趣的读者可以上网搜搜，绝对让你大吃一惊）。

具体来说，这个古老的传说，可以让我们深入了解这些技术在哪些方面对人类有益——以及它们有可能在哪些方面造成灾难。

关于古代魔像

虽然布拉格的魔像故事可能是最著名的，但魔像的故事在整个犹太文学中以不同的形式重复了数百或数千次。

“golem”一词出现在犹太信仰的核心文本之一《塔木德》中。从诗歌和小说到《辛普森一家》的一集，魔像故事的变体，在几代人的时间里被不断重复和重新诠释。

尽管细节有所不同，但基本故事是相同的。拉比或犹太神秘主义者创造了一种人造生物，使用希伯来语单词或咒语赋予它一种人造生命及基本水平的人工智能。

通常来说，这样做的目的，都有一些令人信服的原因。比如，在某些情况下，主角是需要保护他们的家园免受外部威胁，例如大屠杀。或者，其他情况是，他们只是想要一个人工智能的助手来帮助他们完成繁重的工作。

这些故事中的魔像，通常被描绘成强大的，但最终是野蛮的。他们的劳动速度比人快很多，但他们不是有感情、有思想的生物。

Midjourney 中的魔像插图

本质上，它们是人工智能机器人或自动化机器。就像我们今天拥有的机器人一样，魔像盲目地听从指令，但不会自己思考。他们足够聪明，可以理解人类的命令，但又不够聪明，无法理解命令的细微差别或人类的微妙之处。

在经典的魔像故事中，事情往往最初进展顺利。主角从魔像中获得了很大的好处——他们可以更快地工作，或者他们能够保护他们的家人和社区免受威胁。

但是，在几乎所有情况下，事情最终都会变得很糟糕。大多数故事都以主角摧毁他们的魔像而告终，因为它变得太强大或太有威胁了。

通常来说，他们都能成功地摧毁自己的魔像，但摧毁魔像往往伴随着严重的代价。有一种说法是，魔像的创造者们，如果有一天摧毁他们的魔像，那魔像就要先给他们一拳。在格林兄弟重述的一个变体中，一个被摧毁的魔像撞向了它的创造者，把他压死了。

ChatGPT，今天的魔像

这个反复出现的古老传说，可以让我们了解当今强大的人工智能系统。

就像昔日的魔像一样，今天的 AI 系统，如 Midjourney、ChatGPT 和 Stable Diffusion 都是通过模仿人类创建的。

传说中的古代拉比，通常用粘土来创造他们的魔像，并赋予他们伪人类的外表。

同样，我们今天通过模仿人脑的工作方式，塑造了人工智能系统。大多数大型语言模型，使用模仿（但不复制）人类神经元功能的神经网络运行。

就像他们古老的粘土做物一样，这些系统受到人类的启发，但又不及人类。

如古老的魔像一样，这些系统最初被证明非常强大和有用。 ChatGPT 不会站出来保护你免受入侵的军队，但人工智能系统已经融入了数千家公司的工作流程，自动化了从文案写作到医疗工作的各种任务。

古代主人公制造魔像时，通常都是从欢欣鼓舞开始的。好像我们现在正在做的事情，对 ChatGPT 及其同类产品感到无比兴奋。

不过，我们最好注意，在魔像的古老故事中，事情进展得很糟糕，而且变糟的速度很快。

人类最终意识到——但通常为时已晚——通过制造魔像，释放到世界上的力量，最终会威胁到人类。（电影“终结者”的天网也是这样）

人工智能的反弹

我们已经开始在人工智能系统中看到这一点。

艺术家们反对系统模仿和取代人类创造艺术的能力，许多公司已经开始禁止人工智能生成的代码、照片和其他许多东西。

传统魔像传奇的终结，也为未来提供了一些令人毛骨悚然的预测。一旦魔像被创造出来，它就不会简单地消失。一旦魔像被释放，摧毁它几乎总是需要痛苦和牺牲。

无论以何种方式摆脱困境，将我们自己从现代 AI 魔像中驱散的过程都将是痛苦的。拒绝实施人工智能技术的公司或许会在人性方面获得优势，但会失去这些AI系统的强大助力。

与古代魔像一样，今天的魔像提供了一种权衡。我们可以提高效率，但可能会造成严重威胁——或者有可能失去我们自己的人性。

如何对待人工智能

然而，除了厄运和毁灭之外，我们还可以从这些古老的故事中学到另一个教训。虽然许多魔像传说都以毁灭告终，但并非所有都如此。

在传说的最早版本中，魔像变得如此强大，吓得创造者的敌人，被迫逃离了创造者的家园，并保证不再入侵。当这种情况发生时，魔像的创造者会小心翼翼地禁用魔像，而不是破坏或摧毁它。

也就是说，创造者将魔像留在了身边，以防再次需要它的力量。传说最初的魔像，仍然藏在布拉格一座犹太教堂的阁楼里，准备在当地犹太社区需要保护时出现。（有条件的小伙伴，可以去找找看看，找到记得回来告诉我）

在这个版本的魔像故事中，魔像的创造者将他们的创造物当做工具。魔像的力量，最终帮助他们实现了目标。

通过禁用他们的魔像，而不是屈服于滥用其力量的诱惑，于是，魔像的创造者从它的力量中受益。

当我们使用 ChatGPT 和其他 AI 工具时，我们都可以从古代魔像故事的原始讲述中吸取教训。

这些AI工具对我们都有很大的助力。用好了它们，可以帮助我们提高工作效率、实现目标；用的不好，过度依赖它们，也许就会有一天被它们彻底取代，失去生而为人的创造力；甚至在极端点，被它们统治和奴役。

所以，最关键的，还是要学会，在适当的时候放下它们，学会放下，才能体会原始创作的快乐~

好了，今天的分享就到这里了，我是“神秘星球看看”，我们明天再见！