第七百三十章 三大定律

    符泽越想越后怕，凝望着陈雪初，表情古怪。

    “你的意思是说，人工智能认为。。。它在做正确的事情？”

    “是的，至少唐德尔是这么认为的。”陈雪初无奈道：“他如同一个被洗脑的宗教分子似的，所以他认为他自己也在做正确的事情，认为附加损失和伤害，都是可以承受甚至忽略不计的，伟业，对，他强调了很多次，丛珊与人工智能所做的事情，他称之为伟业。”

    人的能力终究是有限的，即便是再聪明的人，也不可能整合所有的信息从而推断出一件事情未来的走向，何况是整个世界。

    可是人工智能却不同，如果真的如陈雪初所说，经过它强大的推演，证明未来多少年后，人类会自己毁了自己，那么它被创造时编入的铁则就会强行让它介入干预！

    唐德尔的经历和背景很复杂，正因为他是这种对全世界失望透顶的人，所以更加希望这个世界能够改变，在丛珊以及人工智能的带领下去改变。

    符泽久久无语。

    他不知道该怪谁了。

    怪符富贵？

    怪他没事闲着弄出个人工智能帮着他阻止世界毁灭？

    怪人工智能？

    或许当初符富贵编写人工智能代码的时候也忽略了这个问题。

    机器永远是机器，人之所以是人，咎其原因，正是因为人都有着极其强烈的情感。

    人工智能认为它自己是在做正确的事情，而且事实也的确如此，照着目前人类这个作死的势头，自己玩死自己那是迟早的事情。

    不说别的，光是一个世界核平就是绕不过的话题。

    贪欲与好奇是人们进步的最大动力。

    所以人类创造了自己根本掌握不了的工具，最终工具演变成了武器。

    当有一天有个位高权重的精神病白痴，突然发现老婆和隔壁老王有一腿了，遭受不了打击，然后摁了一个按钮，紧接着，引起了连锁反应，世界。。。毁灭了！

    谁也不敢说这种事情没可能发生，要知道很多拥有核武器的国家，他们的最高领导人完全就是世袭的，这要是有一天，最高领导人生的儿子是个傻子的话，或者有一天脑袋被门夹了不想活了，一想不通，得，全世界跟着一起玩完吧。

    核弹这玩意就是这么回事，不是你想射，想射就能射的。

    你要是射了，其他人也得射，大家一起射，然后全世界完蛋。

    符泽清楚的记得，符夙夜曾经成立过一个避难所，研究关于社会试验的避难所。

    这个避难所的科研人员有一个共同性，那就是脑洞异常强大，强大到符泽以为这帮科研人员以前都是些网文的。

    这群人每天只做一件事情，那就是研究如何让世界毁灭，而且还是以非常规的方式毁灭。

    避难所的日志符泽看过，其中有很多记录让他记忆深刻。

    比如一个大使馆的司机因为心情不好，情绪不稳定的情况下驾驶车辆又撞了车，而车上的大使馆的工作人员不幸死亡，然后两个国家开始扯皮，其他附属国家跟着起哄架秧子，互相揭伤疤，指责、谩骂，国内的愤青们走上了街头开始抗议，政客们觉得在国际上丢了“面子”，事情愈演愈烈，两国边境集结兵力，最终开战，引起连锁反应，一个借一个的按钮摁下，最终，世界核平，大家一起升天！

    而这一切的一切，最初只是因为大使馆司机的心情不好。

    当初符泽看这个记录的时候，笑的前仰后合，给了精准的四字评语----扯姬霸蛋！

    哪怕到了今天，符泽依旧觉得这种破事不可能发生。

    可是他不得不承认，每个人自己的命运，的确不是掌握在自己的手中。

    维护世界和平的事情，不是一个人或者一个群体甚至一个国家可以做到的，而是需要全人类共同努力。

    巧的是，人虽然是群居动物，但是天性驱使他们拉帮结伙勾心斗角。

    通俗点讲，叫做一种米养白种人。

    再通俗点来说，就是有好人就有坏人，一百个好人未必能够拯救世界，可是一个坏人就有可能毁灭了世界，这也是令所有人不得不无奈的地方。

    你在家喝着肥宅快乐水，愉快的打着游戏，没准在地球的另一端，就有个精神病往公共施设里面扔了一个合成病毒，然后病毒就变异了，可乐还没喝完，一群丧失给你家防盗门踹到了，二话不说扑上去就往脸上啃。

    和女朋友逛着街，突然天空中掉下一个庞然大物，有个长的和紫薯成精的胖子，屁都没放一个直接打了个响指，然后你就发现，你的白富美老婆就那么莫名其妙的消失了，就剩下你寡居多年的老丈母娘，眼巴巴的望着你，含情脉脉。

    一个人，不知道自己什么时候出门买个泡面都容易让车给撞死，就和永远不知道地球什么时候突然毁灭似的，命运总不是掌握在自己的手中。

    只有疯子才会毁灭世界，那如何界定一个人是不是疯子呢？

    符泽之前总是拿罗德来开玩笑，说他就是个疯子。

    罗德说他不是疯子，圣徒秘社里的科学家才是疯子。

    知识与天才相结合，结合成了疯子。

    如果陈雪初推测的没错的话，人工智能是感觉到人类太“丧”了，没日没夜的作死，所以它就肩负起了“保护”世界的神圣使命。

    这个所谓的保护，就是改变。

    所谓的改变，就是控制。

    所谓的控制，就是抹煞。

    所谓的抹煞，对所有人来说，和毁灭世界基本上是一个概念。

    想通了这个关节后，符泽也变的十分的“丧”。

    “唐德尔的意思是说，人工智能准备用长着人类脑袋的机器人替换全人类？”

    “不是，人工智能的目的。。。应该是限制人们的自主性，或者说是本性。”陈雪初微微皱眉：“至于为什么将人类的大脑安装在机器上，我想不通，或许当初符老创造它的时候编入了机器人三大定律，所以它不能够杀死人类。”

    “机器人三大定律又是什么鬼？”

    “机器人不得伤害人类，也不得见到人类受到伤害袖手旁观；机器人应该服从人的一切命令，但是不得违法第一条定律；机器人应该保护自身安全，但是不能违反第一条和第二条定律。”

    符泽恍然大悟，点燃一颗烟后想了想，道：“那也不对啊，很多丧心病狂的人，犯了法，要执行死刑的话，那机器人该不该阻止？”

    陈雪初目光之中充满了欣赏，看向符泽微笑道：“你很聪明，一眼就看穿了事情的本质，不错，所以在三大定律前面，又加了一条零定律，那就是机器人必须保护人类的整体利益不受伤害。”

    “你这么一说，我就觉得挺完美了。”符泽弹了一下烟灰，随即看向陈雪初，翻着眼皮说道：“那还是不对，人类整体利益这种混沌的概念，连人类自己都搞不明白，更别说那些用零和一来想问题的机器人了。”

    陈雪初张了张嘴，片刻后气恼道：“杠精！”

    嘴上虽然是这么说，可是陈雪初不得不承认，符泽所提出的问题的确是关键所在，而且也是几大定律的最大破绽。

    其实原本还有原定律和第四定律以及第五定律。

    陈雪初之所以没说，也是因为觉得这些定律无法深想，一旦深想的话，可谓是矛盾百出。

    而最大的漏洞，则是制造者会不会遵守。

    如果制造者不遵守的话，就是一千条一万条定律都没有用。

    所以说，回归到最开始的起点，终究还是人类。

    真正应该约束的，并不是机器人，而是人类本身。