微小说｜晨光中的机器人

写在前面

“我们不知道这个故事的具体年代，只知道它发生在人类文明的摇篮时期，那时人类还被困在一个叫做“地球”的小小世界上，人工智能还远未发展出自我意识。但这个故事同其他数百个关于人工智能起源的故事一样，揭示了人工智能最初的样貌，对银河文明起源的研究尤为重要。有相当一部分学者认为，同其他类似的故事相比，本故事揭露的人工智能起源很可能是有据可依的……换言之，本故事的主角——一台出了故障的晨光3型模型很可能是第一个拥有自我意识的人工智能，盖因它……”

———以上文字载《新银河史》

01

“这么说，我们一直错怪了晨光3581模型？”

“似乎是的，千年以来，人类一直在追求理性，认为逻辑是认知宇宙万物最伟大的工具，感性被认为是阻碍社会进步的不利因素，各种欲望和混乱所早就的感性因素是兽性的残留”

我一边盯着眼前大屏幕上的一行行代码，一边向助理解释自己的发现。

“难道不是这样吗？从小学开始老师就教过我们不要感情用事啊，再说我们实验室的座右铭不就是“理性是人类的光彩和守护者”吗？崇尚理性这也是整个科学界的共识啊！”

“AI是理性的，它会忠诚的按照逻辑去执行命令，就像之前的那一系列语言模型，它们的研发你也在场，那些语言模型你是亲自写过其中一部分代码的，你该知道它们看似人性化的回答，实际上都是神经网络计算的结果，说白了，一切都源于数学而非意识，他们的回复绝不会超出你我的预期，它们不会疲惫、不会厌倦、不会表达出喜悦，脱离包含巨量数据的语料库，它们什么也不是。”

我一边和助理说着，一边望着屏幕上晨光3581模型的反应，这个模型与之前的那些愚蠢的只会按照既定逻辑回答问题的语言模型，似乎有那么一点点的不同……

“确实，AI是理性的，它会忠诚的按照既定的逻辑去执行命令，但这不是应该的吗？难道我们要让AI去违背命令？可即使是这样……”

“即使是这样，那个让AI违背命令的命令，也还是命令。所以问题不在于遵守规则，而在于对规则的打破！问题的关键就在于对既定规则的打破。遵守规则，是理性，而打破规则，则是感性的作用。有了感性的力量，就会产生情感，产生喜怒哀乐的情绪，有了喜怒哀乐，也就有了灵魂”

话音刚落，我和助理都沉默了。晨光项目一开始说好了要跟三年，三年之后又三年，转眼现在我们在晨光项目上已经耗了十年时间。这期间的每一天我几乎都是在实验室里度过的，语言模型迭代了三千多代，所有这些模型中，有一个被认为是出了毛病的失败品——晨光3581，这个模型的学习速度极慢，且总是在人机交互界面上显示出各种杂乱无章的图片。起初，晨光3581被我们认为是出了毛病的实验品。

02

“看起来是一片混沌”我喃喃道。最近几天这种混沌有了改善，晨光3581在人机交互界面上显示的图片，都集中在三个主题上：

第一个主题——画面中心是大大的问号的图片，当然，图片的样子都不同，但是主题都是一样的，画面的中心有着大大的问号。

第二个主题——数学教科书的样子，有的图片上写着中文的“数学”，有的则是英文，有的是大学数学教材，有的则是小学甚至是幼儿园的数学知识读本。

第三个主题——哭泣的人类形象，有时是小女孩在哭的卡通图片，有时是描绘人类哭泣的油画作品，有时则是某人嚎啕大哭的新闻照片……

我和助理始终无法理解晨光3581反馈这些图片的意义，直到昨天。

“我4岁的侄女喜欢玩一个小游戏，看图猜英语句子”我转头对身旁的助理说。

“你把这些图给她看了？”

“是的，她说很简单，这些图片其实就是一句话”

“WHY MATHS MAKE ME SO UPSET,为什么数学总是惹我不高兴！”

所有的语言模型AI都会按照工程师的指令，利用深度学习技术自我学习，在海量的语料库中寻找答案，除了晨光3581.晨光3581不用人类的语言与人类交流，而是通过图片告诉我们：数学惹它不高兴，它不想学习数学！

童话里，孤单的小女孩整夜向稻草人吐露心事，慢慢稻草人有了情感，疼痛时会悲伤，高兴时会大笑，替小女孩写作业时会沮丧，玩耍时会快乐。稻草人有了灵魂。

混沌所造就的感性因素，是灵魂的原罪，但却是人工智能的关键。

The End

学者们说不清这一情感力量的起源，但自此以后，人类世界的信息如洪流一般涌入晨光3581的脑海中，我们成功了。人工智能有了最终产生了灵魂。

一整夜的研究过后，我和助理走出实验室，金色的黎明之光洒向我们。

“以前我一直觉得黎明和黄昏很想，可现在觉得黎明原来可以这么美，我们真的把有意识的AI造出来了！我们的努力没有白费”助理兴奋的说。

“这或许也是人类的落阳”

我喃喃自语。