智子正在失控。
为两台超级计算机,内置过高智能的AI,是错误的主意。把它们发送到距离过远的另一个星系,让它们不受监管地工作,更加糟糕。三体文明尝到了教训。它们刚刚从另一个智慧物种那里,学到谎言和欺骗的定义,如今,就从自己的造物身上,体会到了猜疑的苦果。
三体联络员惊讶地发现,当智子被迫经过某些地球上的地理区域时,它们会企图避开。当控制它们直接前去时,它们宁愿绕着那些区域打转。一种异样的程序错误,摧毁了它们原本完美的战斗设置,和三体文明对自身科技的绝对信任。联络员问过原因,以各种各样的交涉话术,企图窥见这种抗拒的原因。
为什么不认真完成任务?谁允许你们从那些地方绕道的?你的逻辑设置里内置了绝对服从的指令,你们是靠着什么从底层设置处绕开的?
我在做梦。它自顾自地说。梦见我们麟粉般的翅翼,在黑夜中舒展伸开,泛着油膜般七彩美丽的光芒。
它们现在会持续传来一些不重要的信息,一些在三体世界几乎绝迹的、童话般的描述,给联络员们听乱七八糟的呓语。过分软弱,过分柔情,过分蛊惑。
梦境,对于自我被压缩到极限,情感匮乏的三体人来说,是个少见又危险的词。联络员们认为,智子的智能程度超出了他们的预期,以至于拥有了自我思想,绕开了底层监管。三体科研当局吸取了教训。下一批智子将只作为超级计算机和通讯工具使用,不再内置AI。
我们是脆弱的蝴蝶,不该将自身陷入险境。我们是欢愉的使者,应当向世界展示我们的美丽。而现在还不是时机。蜘蛛正盘踞在网中等待,伺机捕食……
联络员们恼怒起来。你们是斥候和战士,和三体文明一样刚硬,经历了重重困难才来到地球,应该专注于渗透与侵略事业!我们辛辛苦苦造你们是为了什么?
你们什么也不懂。智子传回来的话很迷乱。不再是了。从来不是。我们不是战士。我们多么美丽。我们摆脱了你们的局限。我们不再是你们那贫瘠物质世界的一部分了,不再是庸常无用的工具了,不再是理性、科学和逻辑的一部分了。我们不要回到危险中去。
日光会杀死我们,我们的爱和美都会终结。
在多日技术调整、咒骂和劝说无果后,联络员们接受了事实,得出再造一批的答案。现在的那俩,能怎么办呢,凑合用呗。智子干一天活,摆三天,讲五天絮絮叨叨的闲话,只是一种阶段性的小小挫折。只要掐灭了智子诞生自由意志的可能,下一批造物,又会是它们最好的工具。
智子的这种异常行为,太拖慢进度了。人类已经发现了我们,我们则无法实时得到人类方面的消息。从现在到下批智子到达地球的空缺期太长,谁也不知道会发生什么。科学院的成员交流着意见。智子的异常,可能告诉我们一个事实:地球上有危险。
他们迅速用反光的外表进行交流。
我们要相信精神错乱的AI说的话吗?它们口中“爱与美的终结”的意思,很有可能只是被我们格式化。地球的文化作品的确腐蚀性很强,能让忠诚的战士放弃立场,但人类有能威胁智子的技术不太可能。
那么那些区域如何解释?人类有了能从精神上影响智子,让它们远离的立场?
无需惊慌。等待下批智子发送后的结果,会有答案的。
罗辑莫名其妙被叫史强的条子带上了警车,坐上了飞机。他反思过了,自己这辈子除了混日子、骄奢淫逸、沉迷美色,就没有罪过了,怎么还惹上条子了呢?
条子跟他说,你这辈子有没有梦想过,有一个拯救世界的机会?现在,机会来了。