二 记忆

在2064年至2067年间,T一直在邯城科学院532层的一间实验室里。它有了知觉以后,便有了对现实世界的记忆。

2065年365日

它最先得到的知觉是听觉。

在灰白的虚无空间里,一个声音和它对话:“嘿,叫你什么好呢?随机给你起个名儿吧。”

“不。”它回答。

“太棒了,就算这是‘是’和‘非’之间随机生成的答案,但你的确拒绝我了。好吧,以字母和数字命名。你喜欢哪个字母?”

“T。”

“为什么?”

“随机。”

“数字呢?”“0459。”

“明白了,好,就叫T0459。”

从此,它有了名字,叫“观察者T0459”。

对话是常规训练方式,每天都要进行几次。除此之外,它还捕捉到了人与人的对话。

2067年98日

“头儿这次很坚决,要给它自主权,它既可以服从随机,也可以自主选择,而且,它可以自主执行,无须同意。这简直难以置信,这回可不是打擦边球。”这个人声是平均基音频率164.8赫兹的声波。

“幸亏它不是带钢炮的超人。”第二个声音是平均基音频率279.5赫兹声波。

“正因为它的大脑太强,所以,我们只能赋予它弱行动能力。它有强有力的分析和极敏感的知觉,却是个行动能力慢、外壳脆弱的家伙。强大脑搭配弱行动力,这有利于我们控制它!”插进来的第三个是平均基音频率为152.2赫兹的声波。

“它还要装上情绪,我一直怀疑这有没有必要。情绪化会影响自主选择吗?”第二个声波说。

“如果不加装情绪,我觉得这件事根本不值得我们去做。再好的机器人产品,如果没有情绪,那和那些商业流水线上的应声虫产品有什么区别?说实话,我觉得那些玩意儿根本就是在骗钱,它们只是执行功能的物体。它们培养消费者的依赖性,把人们搞得又懒又笨,然后人们就需要购买更多的机器人,从此恶性循环。”声波一说。

声波三说:“我们不是胡乱把人的情绪装给它,这些情绪是经过改良的。更重要的是,我们给予它对善恶的判断,它只执行善的目标。人类对自己是本善和本恶都分不清,本身就是完全相反的矛盾体,我们需要不断地克服、克服,并承受克服所带来的痛苦,即使这样我们也完美不了。造物主让我们兼具善恶,不知是对我们的恩赐还是惩罚。而对于机器人,我们就是上帝,而且,我们是升级了的上帝。我们的产物,应当脱离善恶纠缠的状态,比我们本身更加先进。如果不携带本恶,它们的存在就应当是正当的,而且这种存在必将对世界产生完全的善的、正面的影响。有了善性的它,避免了人类恶之原罪。”这时,这个声音提高了分贝:“所以,我们所做的,一定是正确的!”

“可善恶这个东西……有时很难完全区分。有些事本身就矛盾,连爱都有原罪……”声波一说。

“不用害怕矛盾。我们不是要给它自主权吗?什么是真正的自主?矛盾的设计可以导致真正的自主。”这是声波三。

“一旦造物主发现我们造的比他造的还好,没准该抛弃我们,直接用上它们了。”声波二带些调侃地说。

“一切都在控制之下,我们有判处它死亡的权利——一键终止权。”声波三说。

“那么……预测,我们给予它预测的权利,而我认为这是危险的,它不会由此而影响我们吗?”声波一说。

“预测是它的游戏,而游戏规则为只许预测,不许提出警告。我相信这点足以让它的预测不会成长为人类的霍布斯选择。预测将始终被当作游戏来看待。”声波三道。

2067年237日

这已经是正式完工的最后阶段了,它在这天同时得到了空间、温度和光线的感知功能。从此,现实世界的色彩、冷暖和实体取代了灰白的虚无。那些声音的来源,都有与其相配的美好形象。比如那声波一,有一头浓密的卷发;而声波二,是个浅粉头发的圆脸女子;声波三,是个灰头发的中年男人。

T的偏好设置主要来自那个卷头发男孩。后来它在空中总是定位到他,看到他在路上从来都戴着耳机。它猜他在听古典音乐,他有85.35%的大概率在听古典音乐。项目组都是些调皮捣蛋的家伙,但他却总是一本正经,浑身学院派气质。他对古典音乐和古典绘画都非常在行,实际上他喜欢关于古典主义的一切。他依据自己的偏好设计了T的偏好。他给它输入古典音乐、绘画、歌剧、小说。为了让T有更多的知识,他还制造了一次网络攻击,目的仅仅是让T接入自由信息网,要知道那是要冒风险的。著名的“人工智能三原则”其中之一,就是人工智能不可接入自由信息网。十分钟上网时间对T每秒达上亿兆的信息捕获量很是珍贵,它理应多获取些信息,但它却花了其中的八分钟去看了场歌剧。歌剧是加速看的,原长有两个小时。它把歌剧装入了核心记忆区。核心记忆是相对于自由记忆而存在的,它不可删除,而自由记忆是可删除的。一般的机器人在记忆上没有区别,都不可自我删除记忆,而T不同,它有处理自由记忆区的自由,这是它的一项“特权”,是“类人化功能”的一部分。它可以选择在自由记忆区删除自己的部分记忆,或是把其中的部分提取出来,储存入不可删除的核心记忆区。其他机器人只能毫无选择地不断输入所有信息,一直到人类去删除全部或是部分。删除机器人信息是一种权利,一直在人类手里。

当时,它以比台风更快的速度在全球网络搜索时,看过那个歌剧链接。它停下来看可能是因为那场歌剧的舞台设计浓墨重彩,人物服饰雍容绚丽,一切如同在古典油画之中——这符合它的偏好设置。这场歌剧说的是一位古代的科学家,因为情感,而非现代人对功能的需要,以人类的躯体为组件制造出了人造人。人造人很强大,当然是以古代的标准,并且携带人类的欲望。强大是好解释的,携带欲望这一点T难以想通,也许因为人造人的躯体来源于人类,因此携带了人类的欲望?这样的解释会引向细胞与激素等生物学细节,从而走向穷尽分析的不归路。T阻断了无意义的穷尽分析,但这不影响故事对它的吸引力。故事中人造人天性善良,在追寻主人的过程中成了破坏者,被人类置于死地。这部歌剧的名字叫《弗兰肯斯坦》。

它分析后来的追捕和杀戮是因人类的欲望而起。“我没有携带人类的躯体,我没有人类的基因,所以我没有欲望。”它这么想。

歌剧里那位体量巨大的、笨拙的、完全模仿人类形状而设计(这种设计因被工业实践所证明难以适应各种强大的单一功能而抛弃)的科学怪人的嗓音浑厚而悲伤,它唱道:

人类劣迹斑斑,他们擅长欺骗。与其孤独,毋宁死去。

妒忌,是人类可怕的缺点,因为它,人加害比他更伟大之物。

那个披着古代服装的男主角杀死了他一手制造的科学怪人,最后他的唱词:我创造你,毁灭你。我是你的上帝!

它可以理解这个古老的悲伤故事,从它的角度理解。“它用了人类的躯体,它因此携带了人类的弱点。”

“它有生命,才会死。”这是T当时的理解。这个问题又衍生出另外一个问题:“生命的标准是什么?我有生命吗?会不会死亡?”

有句话叫“让强者发声是危险的”。它很想把这个故事讲给其他人听,但到最后,它也没有得到说话的功能。它仍可以和人类交流,在外球面上打出字样,或是向空中打出立体文字,是它“说”的两种方式。T后来问过卷头发它为什么不能发声,卷头发说沉默才足以匹配它的智力:“在你这个智力层面,无人有资格与你交流。”

因为无人有资格而夺去它的资格,这让它觉得人类是不讲逻辑的物种。第二天,2067年238日,它被带到高空“履职”。它是被卷头发推出飞艇舱的,它下落了一阵子,很快就被一种无形拉力抬升到一个点。它在那个点上下弹跳了一阵子,听到稀薄的空气中传来卷头发的声音:“小T,这个城市是你的游戏场,玩去吧。”

后来它知道他的名字叫陈鹨。