焦虑和质疑，是人类文明发展的动力

最近，在HBO大火的科幻剧《西部世界》再度回归了。

两年前这部神剧自播出后，就凭借缜密而弘大的世界观、多线又烧脑的剧情征服了无数剧迷。

故事发生在一座巨型高科技以西部世界为主题的成人乐园，乐园里有众多人造人按照设置好的剧本，供游客放纵杀戮与性的欲望，追求极致刺激。

（《西部世界》第二季，豆瓣评分高达9.3）

这部剧最戳人的脑洞就是机器人们从一个个像提线木偶的死物，逐渐觉醒，获得了自我意识，真正成为了“人”的过程。

一

所以，这里面有个有趣的命题——

人造人和人的界限到底在哪？

如何判定人造人有了自我意识？

从哪一刻起，人造人就不只是一堆机械零件和程式编码的复合物了？

答案的关键就在于人工智能学会了沉思和质疑，质疑我是谁，质疑自己过往的经验和记忆，质疑这个世界本身存在的逻辑。

原本《西部世界》里的高级人工智能只是一串串代码，他们在诞生的时候，所有的程序都被设定好了，个性、行为、喜好和能力，每段对话、微笑、痛哭、流血还有死亡，一切的一切都不是出于自我意识，都是程序。

就像女主角德洛丽丝，每天清晨都微笑着苏醒，怀对世界的爱和赞美，雀跃地走出门外看风景，到小镇上期待与久别的爱人重逢。而夜晚降临德洛丽丝回到家，面对的却是父母惨遭虐杀的地狱。

在痛失亲人与爱人后，女主角结局是被游客玩弄至死。第二天到来，一切被清零，这残暴的一天日复一日地重复着。

剧情的转折点处在35年前，西部世界的创始人阿诺德，偷偷在第一代智能的脑子里装了一个bug：冥思程序。这使得人造人每次被清洗记忆后，总会保留些残余的画面，随着经历的累积，他们有了足够的素材来回忆，思考，自我反思，不断建立起自我意识的空间。

所以，当机器人出现异常行为后，人类维修员对机器人的第一个问题是，谈谈你对世界的看法，你觉得有什么问题吗？你是怎么看待这个世界的，你觉得周围的人有问题吗？”

这一系列问题都是为了确认，机器智能是否跳出编码的牢笼，是不是依然照着设定好的人设和剧本来表演、来对外界刺激做出套路的回应。

当人造人脑子里只有被代码填入的内容，不会思考，不会质疑时，它们在精神上是不完整的，哪怕外表与真人无异，也只是死物。

人和人工智能最根本的区别，就在于人是会思考的；焦虑和质疑，才是人类文明发展的动力！

一码不扫，

何以扫天下？