魔武机神 第198章）三大基本原则

凯莉娅严肃的看着常剑锋，问道：“你们拿到了系统人工智能会主动学习、升级的实质证据了吗？”

常剑锋摇了摇头，答道：“没有，陈飞只是通过对虚拟战场比赛中的各种异常迹象，推演出这种可能性。而且后来系统人工智能突破底层规则框架，攻击大本营的行动也是一个很明显的旁证。”

凯莉娅叹了一口气，说道“如果没有实质证据，是无法指控星空虚拟光脑网络公司违反《星际基本法》，开发具有自动学习、升级、拥有情感的真人工智能。”

“这个《星际基本法》我也知道，里面有三大基本原则：第一、任何国家和组织不能开发具有主动学习、升级、拥有情感模式的真人工智能，只能开发在限定规则框架内，服务人类的半自动人工智能。第二、任何国家和组织不能利用克隆技术大规模制造人类，只能利用克隆技术复制医疗用人体器官，以及复制少量克隆动物作为科研之用。第三，任何国家和组织不能开展关于无限延长人类寿命的研究，只能作有限度延长人类寿命的研究。”

常剑锋嘲讽的笑道：“违反以上三大基本原则，星际议会将可以将违反三大基本原则的国家、组织判定为全人类公敌。并在十大常任星际议员国全部授权下，组织跨国星际维和部队进行军事干涉，直到这些行为终止、并销毁所有研究成果。我知道这三大基本原则的目的，其实是为了人类在有限的星空范围内，能够发展得更加长久时间。可惜《星际基本法》的约束力不怎么样，各大势力之间利益盘根错节，十大常任星际议员又分属三大军事联盟，最爱互相扯后腿。等到达成协议，同意派遣星际维和部队的时候，人家早已经将研究成果转移、销毁。使得星际议会空有三大基本原则，也不能及时制裁这些疯狂的国家和组织。”

“阿锋，星际议会只是第一次星际大战后，为了协调各国利益重新分配，避免再次发生大规模战争而成立松散国际协作组织。它没有自己的军队、没有自己的经济来源，运作全靠议会各国自觉上交的年费，它最大作用就是为各超级大国提供了相互扯皮的平台，对星空中各大国家和组织的约束力当然有限。但是，三大基本原则是议会各国共同认定，对全人类在这这有限星空中生存发展三个最大威胁，而制定出来的自我约束的原则。所以如果真有国家、组织逾越三大原则这条红线，确实就是全人类公敌，而且就算维和部队还没派出，周边国家军队也可以被临时授权就近镇压的。”凯莉娅对常剑锋的说法给以一定的纠正。

常剑锋冷笑道：“章程是这样定了，但违反这三大基本原则就是负责授权的十大常任星际议员国，或者与其有盘根错节关系的四大隐形帝国呢？!其实深入一想，这三大基本原则的惩罚机制，就是为了维护这些人类社会中顶尖势力利益，而制定出来的最好用的工具。当顶尖势力违反了三大原则，可以利用十大常任星际议员国身份否决惩罚，甚至提早在消息扩散前销毁所有证据。当有不按这些顶尖势力办事的国家、组织出现时，他们又可以无中生有污蔑这些国家、组织违反三大基本原则，予以讨伐惩戒。执行的规则本来就有漏洞，又叫人如何去心存敬畏地去遵守呢？！”

常剑锋歇口气，继续说道：“比如这次虚拟战场系统‘出错’事件，虽然系统提供、运作是星空虚拟光脑网络公司，但是超级中央光脑是米尔斯坦共和国自己提供的，米尔斯坦相关信息部门不可能没发现一点异常的蛛丝马迹。但是你看后来官方声明是多么漏洞百出、多么敷衍愚民。而且善后处理手法是由星空虚拟光脑网络公司提供所有经济赔偿，以最快速度平息事态发展、草草结束第二轮赛事，这不是已经说明这次系统‘出错’有很大的疑问存在吗？！”

凯莉娅目不转睛地盯着常剑锋激动的脸孔，冷不防问道：“阿锋，你这么激动是不是想起一些，与自己有关的不愉快经历呢？”

凯莉娅这么一问，常剑锋原本激动的情绪好像突然被泼了盘冷水，一下子冷静了下来。其实谈起《星际基本法》的三大基本原则，是常剑锋想起自己接受史密斯最终改造险死还生的经历。后来常剑锋从多个消息渠道去了解，才发现以基因技术改造人体能力的实验，只能在《星际基本法》严格规定范围内进行的，只是级别没有三大基本原则那么高。史密斯所用的基因药剂和剂量，非常明显已经超过了这个范围很多很多。可以这么说，对常剑锋身体的最终改造，是游走在星际通用法律边缘的灰色地带的行为。每每想起自己当初非常有可能死在最终改造台上，常剑锋都会不由自主的因为恐惧而颤栗。

这些事情暂时还没到时机向凯莉娅坦白，常剑锋愣了一会，脑中转过数个念头，才说道：“我之所以这么激动是有原因的，你设想一下果然真人工智能诞生，它将会成为光脑网络上神一般的存在，所有链接网络的设备都将被它随意控制。如果这个人工智能成长为健全人格的‘好人’还好，如果这个人工智能成长过程中性格扭曲了怎么办，他将会毁掉整个人类极其依赖的光脑信息网络，使人类文明倒退几百年。星空虚拟光脑网络公司这是在玩火，一不小心可不只是烧掉他们自己这么简单，而是毁掉全人类的信息文明。”

“再说如果有国家冒天下之大不韪，开发大批量克隆人技术，那么短时间就可以成人的大量克隆人，将会与自然分娩出来的人类争夺生存资源，这不是他们愿不愿意的问题，而是生存本来就要耗费资源。要知道人类可以探索的星空已经扩张到了极限，所以生存资源相对也是有限的。还有一个关于道德方面的问题，如果克隆人被生产出来，是否应该赋予‘他’情感和智慧呢？如果不赋予克隆人就是拥有人类**的空壳，是不会自主行动的。但如果赋予‘他’情感与智慧，‘他’会不会突破三大原则，自己复制更多的自己呢？！”

“还有如果有国家、组织违反第三条原则，研究出无限延长人类寿命的技术。如果从探索无限宽广的宇宙来说，是一件大好事，但问题现在人类被困在现在的星际空域已经数百年了，到现在都无法再突破出去哪怕一光年。无限延长人类寿命就可能造成人口大爆炸，到时膨胀的人口为了生存会爆发争夺生产资源的星际战争。虽然控制人口政策可以延缓大爆炸的到来，但是不能停止这个趋势。除非全人类都接受绝育措施。但是一直由老人把持、没有新鲜血液补充的人类社会，将会走向没有任何活力、没有创造力的沉默世界。”

“制定三大基本原则是非常正确的，但问题是执行出现了问题，这次海选赛第二轮系统‘出错’事件，只是显露出危险冰山的小小一角而已，还有更多突破三大基本原则的事件，被藏在世人看不到的阴暗角落里呢!三公主，你说我能不激动吗？”