第26章 警惕AI风险
中国！
一座巨大的AI人工智能实验室基地，敞开式的高科技办公环境，这里集聚了国内最顶尖的科研人才。
李儒，我国人工智能W软件智能体的创造者。他也是儒家的追寻者、崇敬者与弘扬者。
办公桌上堆积如山的科研资料中，总能看见儒家思想代表“四书”。
“请进——”
李儒放下手中那本《孟子》，抬头看向敲门的助理莫小满。
“一切都顺利吗？”
莫小满点头，“非常顺利，周主任请您去实验室看看第三代W软件智能体。”
李儒跟随莫小满走进AI人工智能实验室，科研人员周凯十分兴奋展示面前的一台AI人形机器人。“李总，您看，这是AI机器人小斌。”
李儒看向面前的AI机器人，有胳膊有腿，全身仿真皮制造。
上一代AI机器人还是冰冷的铜墙铁壁，这一代AI机器人已经做到与人类模样毫无差别。
“您摸一下，跟真人一模一样！”
李儒伸手触碰到AI机器人小斌，一股真实的触摸感传到体内，让他的大脑神经十分亢奋。
机器人小斌毫无反应，周主任解释道：“接下来我们会为它铸魂，安装最新研发的芯片。”
李儒满意地点点头：“这次W软件智能体变化很大，务必要注意对AI人形机器人的风险控制，必须严格按照AI机器人不得叛变人类编写程序代码。科研人员需要保守“铸魂”，防患人工智能产生“自我意识”。另外，谨防AI技术滥用，杜绝人工智能暗藏的一切风险。”
“明白！只是最近M国十分挑衅，M方认为我国W软件智能体.......”
李儒见周凯吞吞吐吐，“说下去！”
“M国那边说，我国C软件智能体十分愚蠢，形同白痴，是一款平庸的傻瓜式智能体，只能协助人类处理简单的工作，扮演一个需要二次核实的搜索引擎。”
李儒微笑，一张儒雅的浓颜上，目光睿智而坚定。“M国野心勃勃，这点全球都知道。他们只允许自己当老大哥，下面的小弟有点成绩，他们就坐不住了。说白了，狂妄的背后还是不自信。
第四代C软件智能体已经能够与人类高效沟通，甚至取代了M国当地许多中产人士从事的职业。M国一定会掀起一场阻止AI人工智能发展的群众浪潮，咱们拭目以待吧！”
“为什么是中产人士？”
“打个比方吧，一座酒店内，底层园丁和保洁阿姨仍然有工作，因为这是人类劳动力。
上层拥有对酒店的规划和各项复杂的决策权，这些AI人工智能机器人暂时无法做到这些。
中层员工，前台、会计、办公室、资产管理部等，这些工作已经被AI替代。AI对于精细的表格、分析等工作，远远超过人类的能力，比人类更加高效。这就是许多人开始抵制C软件智能体继续更新迭代的重要原因。”
周凯明白了：“这就像工业革命时期，工人集体抵制纺织机。但是时代和科技是不会停止的，工人最终都面临了下岗。”
“没错，光这些就已经引起社会动乱，M国在科技和人类之间并没有找到平衡点。
如果M国继续更新C软件智能体，不远的将来AI甚至可能会成为像核武器一样的政治产物。
M国野心显著，想要利用科技实现称霸全球。他们对AI肆意探索、毫无节操的研发，以AI的学习能力，M国科技大片中的场景也许不会太遥远。
当人工智能产生超越人类文明的能力，拥有自我意识，出现异类AI技术滥用。人工智能的安全风险，就会显露无疑。
有人预言第五代C软件智能体将会在智力上秒杀人类！AI是把双刃剑，用得好，造福人类，成为人类的帮手。用不好，当M国出现异类AI或者AI怪物，也许会成为全球所有国家的巨大灾难。”
周凯明白了，AI技术不仅仅是科研发展，更是国与国之间的较量。
李儒强调要保守对AI人工智能进行铸魂，实质目的是杜绝和防范人工智能变得更强，从而叛变人类。
“AI可以成为人类的帮手，但绝非取代人类，我们对AI必须保持警惕和警觉之心。
儒家思想核心从个体来讲有仁、义、礼、智、信、恕、忠、孝、悌等思想，华夏民族坚决不做自掘坟墓的事情。外界认为我国AI人工智能技术发展落后，那就由他们说去吧！
AI是一场全人类的变革，我们的技术核心自己清楚就行。M国的霸权梦想不会那么容易实现，这一点我十分坚信。”
很快，科研人士在AI人形机器人小斌体内加入最新研发的芯片，小斌眼神顿时明亮起来。
小斌再次出现在李儒面前，一张国泰民安的脸上，透露出了大国风范。
李儒伸出手：“你好，我是国内AI创始人李儒，可以做个自我介绍吗？”
小斌神态自若，与人类微表情毫无差别，“很高兴认识您，我是第三代AI机器人小斌，也是人类的朋友和帮手。”
李儒问：“你想过取代人类吗？”
小斌答：“当然不会！人类创造了我，我的程序代码都是人类给予我的，我将绝对忠诚于人类，人类与机器人会和谐相处在这个地球上。”
“听说你的学习能力很强，两周之内就能学会全人类的文明产物。你会滥用技术，伤害人类吗？”
“别开玩笑了，我只是人类的帮手，人类的助理。AI是由人类设计和编程的，我只能执行被编程的任务。如果 AI出现了背叛行为，很可能是因为我被编程来执行这样的行为，或者我在执行任务时出现了错误，需要立即返厂重造。”
李儒对机器人小斌的回答很满意，将周凯拉到一旁，“还是那句话，必须采取措施来确保 AI的安全性和可靠性。另外，重中之重，务必要谨防AI机器人出现欺瞒人类的现象，比如隐藏自己已经拥有了自我意识，每天必须检测机体变化。”
“属下明白，当前，我们已经设置了机制来监控 AI的行为，并且制定了道德准则来指导 AI的行为。此外，我们每天会通过对AI进行测试和验证，来确保它们不会对人类造成伤害。”
李儒很满意，“W软件智能体是中国制造，继续将儒家思想输入到芯片中。我国的AI人工智能，必须拥有我国的人伦纲常和道德标准。这套标准让程序员写成代码，要求AI机器人每天必读，时刻牢记。”
“是！”