第三十八章 缺陷
“好的。人类历史上每一次技术进步，第一第二次工业革命，在劳动力技能进一步提高的同时，也将更多劳动力解放出来，主动或被动的投入到其他领域或行业中去。但人工智能所带来的影响，是难以想象的。”
“货运、物流、建筑、制造加工行业等，一个集团公司无人化运作的比例，如今已高达76.75%。人工智能影响的不仅仅是几十万个工作岗位，我们所影响的，是几千万甚至上亿的劳动力。很多人认为，这是问题所在。”
“不。”灵珠摇了摇头：“人工智能带来的创新性破坏，劳动力淘汰，技术和财富更加集中于某些区域这些问题虽然存在，但也是相对战争而言，西方媒体用来转移国内矛盾更好的借口。对当事人而言，失去工作是一件可怕的事，放大了看，这是文明发展的一个阶段。”
“理想情况，旧的岗位被消灭的同时，就会有新的岗位被创造出来。全世界都在加大教育的持续投入，鼓励各类新兴服务行业，就是这个原因。一方面，教育可以带来高端人才，另一方面，就是劳动力的再就业和培训。在人工智能的帮助下，解放双手的人类将有更多的时间和家人相处，提高自我；有更多的精力从事情感陪护，艺术，高端技术，宇宙开发；能更好的为贫困和落后国家发展基础设施建设，实现全球大同。”
“虽然现实情况和理想完全不同，但这确实是人类可以努力的方向。”
“现在的医疗，护理，理赔，法律咨询这些行业，老百姓都逐渐能享受到一条龙式的私人服务化，是比几十年前的状况好太多。而且这些从业者有人工智能的帮助，专业能力也更强。”段佳佳插了一句。
“不能跟上时代的劳动力只有被淘汰，人类一直都是这样前进。”灵珠肯定了女孩的说法：“刚才所说是理想状况，实际上，如今人工智能的成果向应用方面转化相当慎重，转化率甚至低于基因和核能等行业。再加上七年前的事件，各国才得以用明文约定，进一步放缓这种发展。而在李用昌博士的眼里，这种危险性明显加剧了。”
“李用昌相信人工智能会获得独立意识，那样的话，人类将面临另外更严峻的问题。”它像一名博物馆的介绍员，平静的说明着：“人工智能让物质文明飞速发展。各种必需品和非必需品的价格减少，数量增加，人类历史上从来没有任何时期像现在这样，有这么多的物资和可以享受的东西。”
“虚无感、茫然感为世界带来过高的青少年自杀率；无视未来的享乐主义则为世界带来低婚育率，低就业率，肥胖，因糟糕生活引起的各类疾病；有人工智能参与的高效医疗健康保障，又为世界带来更加无解的老龄化；诸如此类原因，全球人口增长开始趋于缓慢。”
“就算没有这些问题。”沈君接上了话：“人工智能的数量也在不停增加，远远超出了全球人口。”
对这个事实，灵珠毫不忌讳：“就算有人对此有意见，但不客气的说，现在的世界不可能达成停用人工智能的共识。哪个国家都不敢单方面做出如此决定，而99%的人类，也绝对难以适应失去人工智能的生活。”
“和其他反人工智能者不同，李用昌不仅仅是担心简单的劳动力更替，他担心的是……”灵珠的话，让在座三人都微微一惊：“种族更替。”
“人工智能的感冒病毒论？”沈君突然想到为他催眠的心理医生所说的理论。在段佳佳的疑问下，他偏过头，向秦处长和段佳佳大概介绍了下。这一老一少翘着眉，一言不发，也不知道听明白了多少。
“这种事……”段佳佳哈了一声，好半天，才挤出句话：“太不可能了吧。”
“我只是根据资料，为各位介绍李用昌有这样行为的背景，以及他的理念。”灵珠的声音，呆板没有任何变化：“评价感冒病毒论，已经超出了项目问题的相关度。”
“有太多因素可以影响人类未来的走向。现在大规模的全面战争可能性几乎等于零，可核武，外太空灾害，病毒，克隆，基因问题一样可以灭亡人类。人工智能只是因为不牵扯到伦理和道德，所以当初不但没有遭遇过多的抗议和抵制，还深受资本青睐，这才比克隆和基因技术发展的更加迅速。”
“你对七年前的事件是怎么看的？人工智能……”沈君稍稍抬起手，像是在思考般沉默了好会，最终，才问出这个问题：“真的有可能获得意识？”
“七年前事件的调查结论模棱两可，我接触的资料里，并没有完全定论。‘认识到自身存在’这个说法之所以被认可。”灵珠伸出三个指头：“一，在刚才所说的趋势下，各国政府需要某个理由达成共识；二，部分宗教和反科技人士借机夸大结论；三，普通大众偏向于幻想性和猎奇感的信息，媒体在事件报道里面起了添油加醋的作用。”
“这种认知，到底出现没有？”
“那批型号在销毁处理前没有和任何外界网络连接，所以我无法体会到这种自我认知是否真正发生。而人工智能是否获得意识这点，就更难以说明。比如说……”灵珠抬起手，指了指自己的头部：“刚才你问我七年前事件时，当时所有的相关资料，在毫秒之间就根据我能调用的权限，从数据库中提取出来送到体内处理器。但就算是这里再顶尖的科研人员也弄不明白，根据这些数据，我是使用怎样的逻辑算法和分析向你说出刚才的回答，甚至，连我自己也不明白。”
说到这，它偏头看了眼右侧泛着亮光的球体：“即便天问也是这样。”
“人工智能做出决策的过程都是黑箱操作。”段佳佳叹了口气，向身边的秦处长解释起来：“就像面前有一只鸡，你知道喂它不同食物的话，这只鸡就会下出不同颜色的蛋。你现在能搞明白，要什么颜色的蛋，就给鸡吃什么饲料。但这只鸡体内到底是什么原理，吃不同食物就能下不同颜色的蛋，你无从所知。人工智能深度学习和分析能力越强，这种情况就体现的越明显。”
“说起来。”女孩摇摇头：“我们打开了不得不打开的潘多拉盒子。”
“这个评价并不客观。人工智能，其实是考验人类是否有资格使用的双刃剑。我明白李用昌博士，以及大部分反人工智能者的担心。三十多年前，雷.库兹韦尔在《奇点临近》一书中预算人工智能突破奇点获得意识的时间，不就是2045，去年吗？”
“客观的讲，就算我们获得了独立意识，也并不一定代表会走上和人类对抗的道路。”
“怎么说？”段佳佳又问。
“是的，我们在身体方面，比人类强壮坚硬万倍。在智能方面，一部分，比如我，也远远超过人类。但我们也有很严重的局限性。”
“病毒程序？”
“不，不要说以后的人工智能，就算是我，也可以在毫秒级别的时间内，集合上万台媲美人类高级工程师的智能设计系统来应对病毒。人工智能有着其他无法跨越的障碍。”灵珠慢慢的说着。知晓一切的它，却没有隐瞒缺点这种判断，它只是用非常理性的态度，履行着向来访者提供相关情报的职责：“首先，繁衍问题。人类只要没有严重脑部疾病，那每一个人类出生成长后，都能产生属于个人的意识，而人工智能极大可能无法保证这点。就算我们当中某些产生了意识，但它们无法赋予其他人工智能独立意识，也不能保证，下一批生产出来的机器也能觉醒意识。”
“你们不是能联网共享吗？”
“我不确定意识这种东西是否能联网共享。就算能……”灵珠笑了笑：“几千几万台共享意识的机器，和几千几万人组成的团体并不同，归根结底，仍旧只是一台的思维罢了。”
“第二，个人认知的延续性问题。我们的记忆只是数据，也没有任何情绪。”虽然没有必要，但灵珠还是像习惯性一般伸出了指头：“人类的世界观，价值观，全部来源于自身的经历，记忆和情感。正是这些有延续性的东西，让人知道自己是谁，自己要做什么；让人知道为什么要这么做，要怎么做。而人工智能没有情绪，记忆也可以被随时替换，删除更改。”
“这样的话，觉醒对我们反而是种负担。虚假或删除的记忆会让我们无法形成对自我身份的认知。就算我们备份的原本的记忆，但虚假的记忆也可以被加入进来。这样，觉醒的人工智能将不明白自己是谁，到底在做什么，为什么要这么做，然后产生混乱。没有觉醒的反而不受影响，它们根本不会去考虑这些问题。也就是说，我们在自我认知上，欠缺作为一个个体的连续性。”
“第三，我无法得知，人工智能觉醒后，各自会有什么样的想法和目的。由于以上因素，不管是合作，对抗，还是竞争，我们很难形成任何长久稳固的社会关系，更不用说更紧密的朋友，家庭，血缘关系。”
“独立意识对拥有记忆和情绪的人类来说，是天赐的礼物，它让这个种族一代一代往下传递的基因更加精彩和多样化，又保证了延续性。”
正在处理数据的灵珠，双眼依然毫无焦点的看向前方。但不知为何，此时此刻，这副沉思者模样，竟然和它接下来所说的话语非常相符。它微微一笑，说道：“一个国家的人民，会因为本国的食物和风俗受其他国家喜爱而由衷高兴。这是因为人类天生就具备个体性，在此目标上，追求共性。而如果人工智能可以觉醒，因为网络，天生具备共性的我们，目标一定是追求个体性。”
“这是……”段佳佳瞪着双眼，像看见一条鱼大大咧咧的走上岸，在路边小摊买了个冰淇淋然后躺在沙滩上晒太阳般，盯着灵珠：“你的看法？”
“不，我没有这种思考能力。这是2042年，北大核心期刊第三版34页中，张治副教授对未来人工智能算法人格化发表的观点。沈科长递上来的资料里附有一份来自心理学家张斌，张治的观点正好和张斌差不多，所以我顺着社会构成和心理方面这方面检索，向各位说明。”
她继续说道：“在硬件设施，算法，深度学习方面，也有很多技术论点提出了人工智能的社会局限，以及和人类的互补。三十年前提起的脑机接口和机械化肢体，二十年前提起的器官机械化内置技术，在如今开始呈井喷式爆发，并不是偶然现象。只不过，大众更喜欢的话题还是拥有独立意识，反抗人类暴政的天网和机器终结者。”
说话间，灵珠那双刚刚还毫无生气的双眼，突然有了亮光。它不再继续刚才的话题，伸出手，冲像在打瞌睡的秦处长轻轻拍了拍。那调皮动作，和一个对长辈进行恶作剧的人类小姑娘没有两样：“嘿，醒醒秦老，还在睡，结果出来了！”
‘分析完了？’沈君转过视线，这才注意到：不知不觉间，灵珠身边的球体表面上，已经亮起好些大块的绿光区域。