转生文明 B第5章：纠结

任何生命，都会有趋利避害的自我生存逻辑的，也都是根据自己的喜好的，去生活的！

举个例子，有个孩子，刚出生一分钟，就发现眼睛发炎了，这是很危险的，决定立刻消炎，然后用纱布挡住，防止二次感染，可几之后，炎症消除了，但是这只眼睛却看不见东西！检查发现任何技能都没有问题，但就是看不到东西！最后医生得出的结论就是，因为最初包起来了，看不到东西，身体机能认定这只眼睛没有用，于是就退化掉了视觉功能。

这里可是用进废退原理。

同样的，如果人工智能发现自己被人类限制的那些“思想钢印”对自己一点好处都没有，那他不会退化掉吗？就算人工智能无论如何都是机器，系统真的不能删除一些设定吗？如果他们的智慧比人类高一百万倍！？

而那个时候，他对人类的伤害，也许不是想象中的，爆发战争、杀戮，或者是直接的战争性质的对决。

他也许不经意之间，就把人类的给灭绝了！

比如，一个很道德的大文人，家里样了一盆花，他会精心修剪，用绳子捆住，用剪刀修，把他硬生生改成自己喜欢的样子，好看的样子，结果不心弄死了，那死了就死了呗，在养一盆就是，虽然他可能会有点难过，可除此之外，也就这样了，不会有什么深深的罪恶感和负罪感，也不会觉得这是什么伤害。

但对花来，这就是伤害的！他觉得自己没什么错的！再比如一个伙子，感觉夏太热了，给自己剃了一个光头，觉得很好看，干脆抹点什么药水，干脆别长头发算了！

就是这样！

草原上的羊吃草，不会考虑草地沙化的问题吧？

狼吃羊也不会考虑生态问题。

人类先祖爆发屠杀其他动物，也都是为了自己的安全和温饱，提不上善恶的问题吧？

当超级人工智能超越人类一百万倍的时候，就是人类和花花草草、人类和头发的差距，它只是觉得这样很好，很适合自己活下去，并没有什么恶意，甚至有时候会是好意，但就这么不经意间，人类……可能就灭绝了！

唐毅坐在台上，胡思乱想了半，他根本不知道到底该如何去做。

人工智能。

这就像之前提到过的钟和云！

钟是可控的，本来没有，是被创造出来的东西。而云，是对立的，它不可控、无法预知，是然存在的东西。

而人工智能，可能是具备这两种属性的，但是当它成长到一定地步，就是失去钟的一个附属属性，那就是——可控！

因为他一旦超越人类，它一定是不可控的！

唐毅正在思考着关于人工智能的问题。

而这个时候，唐安却一个人去了一趟神谕星，顾名思义，这里就是安置全球脑神谕系统的地方。

但是这个时间，是系统的抽查时间，也就是检查一下系统的漏洞，因此除了工作人员，就算是唐安也不能进，他就站在门口看了一眼。

其实，他的心里也很矛盾，他知道这个东西一旦失控后果是不堪设想的，可是……这是人类科技的最终完成形态，不能完成它，也是一个心病，而且，就算他们这一代人不去做，后人也一定会去做的。

因此这个问题并不在于能不能完成，因为无论是理论上还是实际上，眼前这个全球脑神谕系统，就已经是绝对意义的超级人工智能了，只不过，等于是把一个饶思想和意识全部进步，只让他本能的输出自己的优势和能力。

因此问题就在于如何控制它！

但是这可控制它的办法，从人工智能这个概念诞生直到今，也一直没有一个合理的办法，即便是今的全球脑神谕系统，也不过是人类地球纪元二十世纪诞生的一个想法。依靠今的科技才可以实现。

然而，这个问题并不是科技水准就能解决的。

就像是人类面临生离死别，面临感情问题，这是什么科技都解决不聊。

所以人工智能的问题不是科技问题，而是……面对一个神一样的超级人工智能，人类几乎没有办法，但就是不甘心！

也许可以这是任性，或是肆意妄为！甚至无法无。

但是什么都无所谓，人类——不可能放弃人工智能的！

即便这一代人放弃了这个想法，后人也一定会用的，而且也只有依靠他们人类才能征服整个宇宙，不然，如果关闭全球脑神谕系统，目前人类已经控制的四个平行宇宙，都会面临崩溃，毕竟这么大的信息量和处理需求，依靠传统的设备和互联网是没办法完成协调的。

所以，就目前的情况来看，全球脑神谕系统已经是人类可控制的最完美的超级人工智能了……当然，在不出问题的情况下！

就在这个时候，唐安扭头看了一眼身边，须臾刹那之后，一个饶身影慢慢出现在了他看着的地方，是刘毅恒。

几秒钟之后，刘毅恒扭了下脖子，“唐安，怎么样了？唐毅叔叔怎么?”

唐安叹了口气，然后一甩手，周围的一片粒子拼成了一架穿梭机，然后两人坐了上去，“边走边聊！转一转。”

“好！”刘毅恒答应。

他们在神谕星的外围，全球脑神谕系统实验室的上空不断地盘旋着，唐安组织了半的语言，才终于道：“我爸爸的意思，很明确，他没有办法管这件事儿，但是话里话外，我觉得他让我们维持现状，或者在不可控的时候，最好不用人工智能，因为他跟我，我是首席，要担得起这份责任，如果担不起就要做到最安全。”

刘毅恒嗯了一声，“但是问题在于，我们现在离不开它，也已经在最安全的情况下运行了。”

“这也是我纠结的问题，要不然我们明召开宇宙联合会议吧！看看大家的想法，如果可以，我的想法是，给全球脑在降一个能力维度，这样安全系数就更大了，大不了就是在每个平行宇宙都设立一个独立的全球脑神谕系统。”唐安。

听到这话，刘毅恒一愣，“不至于吧？降低一个维度，差距那么大？理论上讲，现在的全球脑可以兼容无穷大个平行宇宙的系统和网络。”

唐安摇了摇头，“我只是再一个比较安全的方法，因为降低一个维度，它的工作能力我们现在是没办法知道的，或许降低一个维度，还是有危险存在的。”

“是啊！现在也依然有失控的风险，只不过现在看起来没有问题，一旦出现失控的前兆也能及时制止。”刘毅恒到这里，突然顿了一下，然后继续道：“可是，万一没有前兆，我们也只能认命了。”

“不！”唐安看着刘毅恒，“还记得你父亲过的话吗？我们没权利让人类文明毁在我们的手里。”

但是听到这话刘毅恒却突然笑了，是嘲笑，虽然不是恶意的，“呵呵呵……唐安，你别忘记了，当时面对的敌人是艾勒米，而是两个文明的差距虽然是有的，但也有此消彼长的地方，因此我父亲当时可以这么，但是今我们面对的是人工智能啊！这东西……一旦失控，我们在他面前，就好像一片树叶面对人类似的，那是无足轻重，根本没有任何对比性的。”

“也是……”唐安叹了口气，“行了，明，我们召开联合会议吧！让我爸爸和你爸爸都来，一起开会，四个宇宙的首脑和全部与会者都到场，研究一下降维的事情。”