如何控制人工智能？

这个担忧由来已久，甚至在人类刚刚制造出机器人的时候，就已经出现了。

随着人工智能技术的快速发展，公众对其的担忧也有所上升。最响亮的声音之一来自于已故的斯蒂芬·霍金教授，他认为人工智能可能会毁灭人类。

那么，该如何看待人工智能的威胁？应该采取行动控制人工智能吗？是否要像对待核能和其他潜在危险的技术一样，制定某些特殊的法律甚至是某些严格的标准来控制人工智能的发展？

在以前的时代，因为人工智能的成就很有限，但人们还是不知道应该如何使机器具有意识和自我感知。因此在大多数人的心中，人工智能反制人类，从而接管世界只是一些科幻情节。

然而这样的担忧并不是虚假的，也不意味着人类真的就可以高枕无忧。

一种解决办法是，建议对人工智能技术的使用进行监管。然而这种通过一般法律来管理人工智能的使用是不现实的，这似乎有点像试图通过立法来管理数学的使用。

此后出现了一个正在被接受的办法，就是如果软件做出了影响你的决定，那么你应该有权知道这个决定是如何做出的，使用了哪些和你有关的数据，标准是什么。

在某些情况下，人工智能决策可能直接事关生死，比如在战场上使用人工智能系统。

目前各个人类势力都使用了大型的星球网络系统，舰队中也有类似的网络和主控电脑，不过就是因为对人工智能的担忧，每个势力都采用了永远不给人工智能系统自动判断和决定的规则，所有重要的命令都需要舰长和指挥官来下达。

人工智能是一种技术，就像任何技术一样，可以用来造福人类，也可能带来危害，而当蓝魔鬼这个人工智能生命体真实的出现之后，他带给人类的恐惧也就更大了。

在不久前的战斗中，因为大多数人并不知道这些命令都是蓝魔鬼这个人工智能生命体下达，当时的情况又非常紧急，所以毫不犹豫的执行了这些命令。

可是当他们冷静下来后，想起此事后，心中对人工智能的深层恐惧又再次出现了。

除了人类对人工智能的不信任、忌惮和恐惧之外，宫羽和其他人更是对蓝魔鬼更加的担忧，因为他来自陈重一方。

就算短时间内人工智能生命体不会出现异常，那么让属于陈重一方的蓝魔鬼接管了己方的造船上，以及那些全自动化的战舰后，会不会再次让己方陷入到另一种危险之中呢？

将心比心，陈重也知道宫羽等人必然会出现这样的顾虑，因此他主动提议道：“你们可以在造船上和战舰的系统上，都设定一个最高权限，只要这个最高权限存在，那就可以阻止任何异常的活动。”

事实上陈重一方的所有舰船也是如此设置，只有每一艘战舰的舰长，才有这个最高权限，这倒并不是针对蓝魔鬼如此设计，而是为了限制所有的人工智能生命体。

根据情报，美盟似乎已经拥有了一个不成熟的人工智能生命体，所以陈重等人也担心会出现舰队和其他重要机构被其控制的事情出现，因此经过了一番研究后，才订立下了这样的准则。