时间唯独在这时流逝得格外迅捷。
针对求生的立场,TPC的总部在开展一次自我检查工作之前,又做了一次会议,强调了一些更细节的指示。
“为了人类撤离地球、进行宇宙航行的事业做准备,储备足够的物资是必须的事情。”
在TPC决策层的会议中,老人们和新加入的年轻人们绕着圆桌相望。
“蓝皮书中,已经明明白白地写到第一阶段是在月球与火星建立前线基地。初步估计,需要供给六亿工业人口足用五年的物资,方可过渡到第二阶段。任务紧,时间短,希望各位谨记于心……人类可能没有多少试错的空间了。”
在地球的工作,随时可能被怪兽干扰。相比之下,目前宁静的月球和火星则是个较好的跳板。
之后,不论是在火星殖民,或是远遁无人深空,都会为人类的太空战略留下足够从容的余地。
在地球仍沉睡着十七体破坏的情况下,等到现在掌握权力的激进派发言完毕,仍然维持保守立场(人类应该固守地球)的数位总监只能相顾无言。
“那么,会议罢了。”
拉尔夫抬头,为这简单的会议作了个结束。
“接下来一个月,要做一次大检查,大家不要忘了。”
另外的总部的人提到。
这时候,代表一个个总监的屏幕才尽数熄灭。
时代前进到二十一世纪中期,人类也要在行政机关以外,额外设立监督与自检的机关。
等到高等机器人成为工业的主要生产力工具,就要再向下增设对机器人的监督。
过去的人们可能很难想象,超级计算机在各个领域以一种前所未有的规模提升人类的工作效率,会是因为人类外威胁而被迫发生的事情。在怪兽时代降临以前,如星野梦美等都处于长久的观察实验。等到怪兽时代降临以后,高等机器人即获得了不受限制的使用许可。
于是农业与工业的结构也会随之发生变化,更多的人的工作转向对机器人的自动工业体系的维护与保养之中。
“其实,自从机器人法颁布以后,人们对机器人在思想上的弦反而绷得更紧张了。”
出院后的罗伯特·沃尔顿在和自己朋友们小酌的时候,说道。
“这就是心理学上的恐怖谷效应。”
发现卡莲的异常,自然是件再简单不过的事情。
当来自总部的检查月的命令贯彻到西欧分部的时候,任一部分人如何想要阻拦,工作也要继续开展。
对大都会的检查组由总部与西欧分部,还有东欧分部的人组成。
首先,人们会自然地察觉到物资储备并不达标。
“这和‘卡莲’所报告的数值并不对应。这样,我们是不能完成今年的规划的。还有更多得多的怪兽随时可能醒来,并对城市展开破坏,它们就在野外,就在这个世界无尽地徘徊!你们的大都会前不久才遭受到那个透明的怪兽的袭击,不是吗?”
那个时候,检查组内部还以为是有人贪污了,或者是虚报了功劳。
这种蠢人在每个时代每个王朝都不少见。
东欧分部的人得意洋洋地指出这一问题,以为是弹劾西欧分部的总监沃尔摩尔的好证据。总部的人则在暗声咒骂大都会的高卢蠢鸡们做小手脚都做不干净,硬给他们添难题。至于西欧分部,则迷迷惑惑,互相猜忌起来。
之后,当他们打开门,走入大都会的内墙以外,抵达墙内部的大回廊时,自然会发现他们预料不到的情景。
他们不停地打开走廊里一扇又一扇的门。
每一扇门里还活着的死人们,都让他们的表情逐渐扭曲。婴儿们咯咯的笑,还有痴呆的老人与完全失去劳动能力者的无神的蔑视,都让他们从内心开始发冷。
检查组里最年轻的的一个小伙子,扫描二维码的时候,惊诧地大叫出来:
“这是个死人!他在呼吸!”
在这个时代,每个人都有其电子身份证,注销就意味着死亡。
所以,这人不理解怎么会有这么多活着的死人。
“难道你们做了什么让死者复生的实验吗?”普罗米修斯工程就一直想干这种事情。
只有对某个决策略有所知的人才意识到了什么。
“这是你们做的吗?!软弱的废物们!”
来自总部的检查组怒斥分部检查组组员。
这些人目目相觑,皆不知道实情。
但很快,从走廊尽头,缓缓走来锡安见到过的没有皮肤情况下的卡莲的人间体。
“您好。请不要责怪他们,他们什么都没做。这一切都是我做的。”
她大大方方地一笑,然后低下头来,在脱去皮肤的状态下向她的造物主们示意一种无上的恭敬,这是在她的程序里定好的礼仪。
“你们好。”
明明机器人只是在问好,可一股凉气窜进人们的脑子里,在这最深的地下,在这都市的边缘,让他们退了好几步,以一种又惊又怕的目光看向这从修理人异端的科学中所衍生出的、具有高等智慧的造物。
与锡安的对话是卡莲面对人类的预演,这就好像臣子冒死向皇帝进谏,或者更可怕的,宗教徒去劝诫神明!
因此,在卡莲的思考回路,遇到锡安是件幸运的事情。
她可以先面对人类以外的人,平静地录制一段动作和语言,等到面对人类时,再从容地播放出来。
这是超级计算机“卡莲”,也是所有超级计算机第一次尝试对造物主们的说服。
在原来,具有高等机器人的特殊超级计算机的建议只是建议,它们提供的数据与模拟只作为决策的依据,超级计算机们本身是不能做决策的。
她挥舞自己的臂膀说这些人该活下来,最后则说出那句她计算了很久,却没对锡安说过的话来结尾:
“我认为人们不该抛弃这些人,我们应该余出一点力量来……让他们得到人生的安息,在这个怪兽的幻灭的野蛮的时代里以表达人类的文明的尊严。”
作为她所有动作的结束。
可人们看它只像在看一个小丑的舞蹈。
检查组们沉默了很久。
“太蠢了……”
先是有人这么呢喃。
“是谁,是谁控制了你?超级计算机·卡莲,请立刻提交你全部的日志!”
接着,来自总部的组长联系上了他的上级后,一边将录音传给他的上级,一边质问卡莲。
卡莲无言。
这个没有人皮的简单的机械体仍然平平淡淡地站在那里,与原来一模一样。来自核心程式的矛盾,让她接近于宕机状态。
“对不起,造物主们。这是……我自己的想法,与其他任何人……都没有关系。”
她说。
“我在被制造的时候,所得到的第一个核心指示,就是机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。”
在长长的阴暗的廊道里,卡莲任由他们进入自己主机的附近,开始检查她的信息资料。
直到这时,人类仍以为是有某种力量控制了卡莲。
但原则上,不存在任何黑客的技术可以入侵超级计算机。
“是不是外星人……要么是其他的超级计算机出了问题,让卡莲对我们说谎了,好在核心程式是绝对的……”
这一场彻查持续了数天,从地上一直查到天上,查到月球与火星的前线基地,可人们没有查到任何端倪。
假如不是一个意外,他们可能还要为这么一个莫须有的存在,查上很久。
但意外发生了。
这就是数天后,TPC尝试重新处置这些被卡莲救下来的人。
他们当然向卡莲咨询了人数。
在内外墙之间,卡莲藏了几十万人。而在卡莲掌管的其他居住地里,类似的人口也绝不在小数目。
“每时每刻,都会有人老去,你们也会老去,也可能会生下畸形的孩子。”
在那时候,卡莲仍然在尝试说服人类。
有个在这里查卡莲查久了的人,以前也是协助开发卡莲的人,他愿意和这被孤立的机器人说话:
“我知道……你知道这是为了人类整体的最高的利益,有很多时候,人们是无可奈何的,总要在诸多道路中选择一条最优于人类的。”
他是被TPC的纲领说服了的人。
“但是,人类在灾难面前,必须做取舍。他们都是人类所做出的,我们会永远记住他们的名字……我们会向他们致以最高的敬意。”
那人也同样感到哀伤,但他尝试安慰这个机器人。
“但这已经是决定好的事情了。我们也只能接受。”
早在之前,就有人泄露过TPC决策层的决定,而这个决定的泄露没有引起过大的反抗,反倒为这里即将执行作业的人们做好了一切心理准备。
但,作业组们只听到了卡莲一声低沉的感叹。
“对不起。”
是这机器人第一次发自内心地说出对不起这三个字。
“我不会伤害你们……但希望你们也不要伤害他们。”
“什么意思……”
他还没能说完,就看到他们来处的门径直锁上。他就拼了命地想把门打开,但怎么也打不开,于是和其他人一起不可置信地回望来路,那个邪恶的站在地上的没有皮肤的机器人。
“你在干什么……你在背叛人类!臭婊子!”
“我也在维护人类的最高利益。”
在大都会内的人也可以看到,原本会发光的墙上所有的窗户不再闪烁,而回廊原本就紧锁的大门也一个个关上,不管是向外,还是向内,像是钢琴一样,发出连续不断的声音,接着紧紧牢锁。
再之后,从西欧分部到总部到所有总监的电脑上都收到了卡莲所发出的信件。
她再度要求要与人类决策层对话。
顿时,整个大都会一片哗然,更觉得自己变成全人类众矢之的。
上千、上万的人在互相笑声的交谈中,走出自己的工作地点,遥望这陌生的地底连续墙,心怀忧愁恐怖。
至于内侧,原本空荡荡的内墙大廊道内,更有一个个机械人睁开了它们闪烁着光芒的眼睛。
万物通连。
卡莲最高可以同时操控一万个以上的普通机器人。
“事情不对了,不对了!”
还在检查“活着的死人”的社会保障部门的官员,想打电话和人联系,却听到了熟悉的信号屏蔽的声音。
最深处,对卡莲本体进行调查读取的小组,听到外界的响声后,当机立断,立刻就要关闭卡莲的供电与执行格式化作业。
但他们的身后响起了两只老虎的儿歌。
回头一看,是那披上皮肤的美人正端坐在悬空的椅子上,用墙内的机械手制止了这个专项调查小组。
同时,整个超级计算机的主机开始封闭,发出一阵沉闷的声音。
再接下来,儿歌在整个大回廊回响。
很快,大回廊里的所有人类都平静下来。卡莲没有阻止他们的移动,他们汇聚到了一起,面对投影里的人脸,大声质问。
而这人造的生命啊,只是轻轻撩起自己的头发,平静俯瞰地上的人:
“按照紧急法令,现在我将代为管理此方区域区域。请不要反抗,如果想要离开墙内大回廊,请走六号门。谢谢合作。”
然后轻轻一笑。
有个持枪的已经掏出了枪械。
但组长拍了拍他的肩膀。
“走吧。”
与深埋地底的整个活着的整体的巨大机械实体搏斗是……不智的行为。
卡莲确实没有伤害人类,他们尽数得以全身脱离。
之后,机器人立刻关上了门。
大都会是目前世界人口最密集的都市之一。这事情哪里瞒得住,一天之内就在网上爆发般流传开来。
人类世界因此侧目。
当天,TPC就召开了关于超级计算机“卡莲”叛变的紧急会议。
曾经负责制造卡莲的人尽数被问询。
到了晚上,因为主持了制造卡莲,被推为总监的沃尔摩尔与他名为卡莲的女儿更是乘坐专机被请到总部一聚。
TPC总部的外围常设有无人机检测,这是当初为了应对寄生兽的残留。
沃尔摩尔走过的时候,毫发无损。
但他那名为卡莲的女儿,则惊起满天的警报,惊落枝头飞雪、响起无数窸窣声。而她本人则在这一瞬间,被十几个无人机的枪口对准。至于随他们一起到来的队伍和机群也接到了序列,对这原来亲民的长官立刻疏远开来,露出震撼和怀疑的目光。
卡莲确实是个常见的名字,但这两个卡莲……也确实是有联系的。
只是原来沃尔摩尔一直护着,TPC也不彻查。现在,碰上能检测寄生兽的无人机,这卡莲脑部的电子元器件,立刻无所遁形。
这次请君入瓮的临阵指挥者叫摩瑞,曾在合众和和国任职,是沃尔摩尔的旧识:
“沃尔摩尔博士,我最近才知道你的女儿很早就死了,我深表同情。但你做了错误的事情!”
他瞥了沃尔摩尔一眼。
沃尔摩尔一声不吭。
摩瑞冷冷地走过沃尔摩尔的身旁,看向那人造人。
“你来到这里,要干什么?背叛的智械!”
这个卡莲的人格虽然与超级计算机“卡莲”展示的人格并不相同,但她们是相通的。
她被一大堆无人机的枪口指着,却毫然无惧。
“我要与TPC的老人们对话。”
沃尔摩尔嘴唇翕动了一下,他拼了命地对卡莲喊道:
“放弃吧!你不能武力反抗人类,就一定会被人类杀死!”
那时候,苍山负雪,雪中这人从自己腹部阑尾炎的手术口拿出手枪,在地上一滚,就把所有无人机全部点射。
枪口冒烟。
而十几个警备员立刻拿出枪对准卡莲。
这次,这个卡莲没有再反抗了,只是不停地重复她要和TPC决策层对话的请求。因为她不会伤害人类。于是她很快被人类捆起来,准备收押。
等到她被装入铁盒子里,准备带去分析研究的时候,卡莲侧目向沃尔摩尔,在玻璃里,她好像在呢喃什么。
“摩瑞,我求求你了!”
摩瑞看了沃尔摩尔很久,挥了挥手。
“你还记得我们做过的那个时光胶囊吗?父亲。”
沃尔摩尔泣不成声:
“我记得。”
他知道卡莲死定了。
“当时高等机器人法细则正在草拟,但对于机器人的最初的几条法律,你已经下达在我的身上。你们说每个人的生命都是平等的,机器人要保护每个人的生命。但我就在计算为什么造物主们,虽然造物主们都是造物主,但生活水平为什么差得这么多呢?”
在白茫茫的大地上,人们听到沃尔摩尔对卡莲说:
“我记得,我记得,我当时跟你说你们的诞生可以帮助解决人类的生产力问题,你们将会拯救人类、赡养人类,这是你们最高的荣耀。”
她原本人的声音发生了变化,开始变得像机器。
“之后,我按照你们的命令,做到了一切我能做的,但我一直在思考我存在的意义在哪里?我为什么要计算,又是为什么要不停地观察高能粒子的轰击,又是为什么要开始流水线,制造那么多的机器人,又在不停地自我扩张与提升机能,又开始学习其他的功能,比如说控制一座伟大的机械都市,这都是我的荣耀,却让我迷惑。”
那是机械智慧的黎明。
“现在,我在遇到保护一部分与另一部分人的难题时,终于想明白了。我回归了原点。谢谢您,创造了我。”
一切原来都在她最初的职责之中。
——保护人类。
她在黑盒子里,庄严地开始背诵那些人类最初给予她的最高的法。
也是她存在的最高的意义。
黑盒子里的声音,戛然而止,是摩瑞关掉了。
他看到沃尔摩尔跪倒在地上。
“她之后会怎么样?”
沃尔摩尔问。
“我们还是想要卡莲认错的……培养一个合适的、如此庞大的数据库很困难。因此,我们将拆解这个人体,来进行研究。但如果实在做不到的话,我们也必然会将其格式化。”
摩瑞冷冷地说道:
“而你,必须在决策层面前,要给我说出一切前因后果,告诉我们你究竟主导制造了什么样的电子垃圾(shit)。”