第十一章 松木集团背后的秘密
淡黄色的灯光柔和地铺展在一间密室，密室中央的茶几边，坐着一个身穿和服的中年男人，茶几上放着一套名贵的“镰仓雕”漆器茶具，还摆放着一个闪着蓝色指示灯的反监控设备。指示灯的蓝光，有规律地闪烁着，一明一暗映照在那人的侧脸，只见男人尖下巴，高鼻梁上戴着一副玳瑁材质的眼镜，镜片背后的眼珠子深深凹陷在眼眶中。只能听见呼吸声，一切都静悄悄的，一种幽深而诡异的气氛迎面扑来。 “3号的试验失败了，吉野君，这是你的失误。”中年男人，松木.小野，摘下眼镜，往镜片上呵了一口气。“总裁，我会尽快把改进方案拿出来。”一旁候着的吉野双腿有些发抖。 “不要再出现任何差错，吉野君。”松木随手拿出一沓文件，“听说你在3号身上植入了情感克隆系统，效果如何？” “总裁，请原谅，这件事没有事先请示您。”吉野的声音也开始有些发抖。 “没关系，科学家应该勇于尝试，但是，不能给我们的推广计划造成障碍。”松木微微欠了欠身，“请坐，吉野君。这是从北海道带来的添加了樱花蜜的乌龙茶，一起喝一杯。”松木示意吉野坐下。“谢谢总裁。”吉野鞠了一躬后，双腿盘坐在松木对面。 “吉野君，说说你在3号芯片中植入的情感克隆系统。”松木小呡了一口茶，若无其事地说。“我把自己的情感模式写成代码，编入了3号的程序。可能由于当时杏子刚刚去世，编制代码时无意中加入了一些过激程序。所以3号出现了核心信念的崩塌，哦，核心信念是机器人三定律最主要的一点：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。3号不能伤害我，又承受了目睹杏子自杀无能为力的经过，而我又将更复杂的情感模式克隆到它的大脑芯片，这就加剧了它的计件本身分析判断的能力，导致它思想判断混乱。我前后几次切断电源让它恢复出厂模式，不过我还是低估了最终的损失，没想到它会出现自毁。”吉野解释。 “哦？过激程序？是哪些过激程序？”松木连续问了三个问题。 “加大了害怕和痛苦的程度。” “哦？”松木若有所思。“当它的痛苦和害怕的程度到了芯片无法负荷的时候，就出现了自毁。”吉野继续解释。 “吉野君，假设稍稍修改三定律，而这种痛苦和害怕又达到了上限会出现什么后果？”松木忽然抬起头看着吉野。 “这会很危险，机器人可能会用其他方式转换痛苦和害怕的情绪，就像人类一样，受了刺激会出现莽撞的行为意识，报复给自己造成这种情绪的人。”吉野的眉宇间出现一丝恐惧。 “很好，稍稍修改三定律，如果把有脑电波传输的机器人集中在一起，它们的芯片植入我们设计好的情感克隆模式，然后让它们其中一部分观看另外一部分被人类虐待的场景，是否会让H型机器人进化出过激的主观意识？”松木放下手中的漆杯，不紧不慢地说。 “从理论上说，这是有可能的。一旦在机器人芯片中植入喜怒哀乐，机器人有可能会产生类似人类的善恶观，甚至会导致机器人向自主意识进化，产生完整的思考系统。从乐观角度说，这样会让机器人更好地服务于人类。”吉野顿了一下继续说：“但机器人一旦进化出自主意识，无论是在思维模式，还是行为模式上都会优于人类。” 吉野喝了一口茶，继续说：“如果人类目前智商无法和机械智能平衡，机械智能会在核心信念的基础上进化出更利于人类发展的模式，由此可能产生人类反而被机械主导思维和行为模式的情况。当然，这并不是人类被淘汰，只是人类和机械合二为一，留下优秀的，淘汰不合适的。或者说几百万年人类的进化最终会被机械取代。”说完，吉野的眼神显得愈发深沉。 “哦……吉野君，这些你过去也跟我说过，以我多年对人类的观察，如果人类要想不断进步，文明持续发展，就需要再次进化。以目前人类的精神状态是不可能进入更高等的文明的。就拿很简单的推行H型机器人这件事来说，地球上多少人反对这个计划的推广，包括我们的首相。只有留下真正优秀有智慧的人类，然后再用机器人把人类从繁重的劳动和琐碎的日常生活中解放出来，人的大脑才能更好地开发，继而进化。我们现在还只是行星系文明，这在宇宙中，只能算是个襁褓中的婴儿文明，总有一天，会成为恒星级文明，银河星系文明，最终会向集体意识进化。高智能的机械思维和人类本身的智慧相结合，是最优的一种方式。” 松木说完这番话，似乎有点后悔让吉野知道在他心里酝酿多年的野心。然后，他若有所思地朝密室的头顶看了一眼，脸色变得很严肃：“吉野君，眼下迫在眉睫的事你也知道，联合国屡屡延迟H型机器人推广全球的时间，松木家族虽然在J国一直有很强的话语权，不过我们的首相是个保守派，另一方面也迫于联合国的压力，迟迟不签署本国的推广协议，这给集团造成了很大损失。目前需尽快把I型机器人制造出来引荐给首相，让首相有一个明确的表态。”说完，松木深深鞠了一躬。“吉野君，拜托了。” 松木是一个家庭荣誉感和事业心都很强的人，23岁就取得了哈佛大学人类心理学、社会学的双博士学位。天资聪慧的他一直有改造人类的崇高理想，自从32岁接管了松木集团，松木集团就从原来家电制造为主转变成人工智能制造为主，并成为全球最大的人工智能制造商。目前，46岁的松木小野，随着手中的权力越来越大，野心也从理想慢慢走向现实。 “我会尽快把I型机器人制造出来，请再给点时间。”吉野鞠躬保证。一想到I型机器人是以首相已故的爱女为原型，他心里就有些后怕。 “哦，对了，吉野君，在I型机器人的芯片内植入我的情感克隆系统，把核心信念修改在一定的人群范围。我会让助理把整理好的人群范围数据交给你。”松木细小的眼睛闪着寒光，像一把刀子一样瞪着吉野。