这样的后果就是，单纯依靠人脑，已经很难再从底层代码逐条逐句的分析程序执行的可靠。所以一旦在这个庞大程序的构建过程中，某个程序员疏忽或者恶意嵌入了bug，也很难被检查出来，这就给人工智能程序的运行埋下了隐患。

        人类需要发展，需要借助外力，同时又要避免被“进化”出来的高级物种所取代，唯一的办法就是提高自，通过修炼意识、诞生元神，克服人类生物大脑的天然限制，莫丁觉得这才是生命进化之路的正确选择。

        “你！和我，是朋友？”莫丁微微一笑，看来这个机人果然备自我意识了。

        “宾尼！”莫丁试探的唤。

        “是的，我，和你！”宾尼肯定的答。

        而像朱时禹那样的聪明人，就懂得使用蓝猫那样的伴生机人，让价值观与自己完全一致的绝对“忠诚”的机人伙伴，去解决关于机人的问题，这也不失为一种对付未来机人必然失控问题的最好办法。

        “你是自行恢复了啦吗？”莫丁见机人对“宾尼”这个称呼仍然有反应，就进一步试探着问。

        莫丁觉得经过这一番波折，宾尼的智商没有受到影响，但他的“情商”却像退化到了7、8岁儿童的水平。现在的宾尼是一个完全不受人控制的机人，对于他的创造者来说，已经蜕变成完全陌生的机人。不知在今后的岁月中，这个蜕变后的机人会走上一条什么样的路。

尼两手一撑，“呼”的一下站了起来。

        “好的！我们一直是朋友。”

        宾尼从背后取下步枪，熟练的检查枪栓，推上子弹，然后瞄准。

        用机人对付机人，有点像清朝的那些皇帝们，用来对付洋人入侵的思路，但最终的结果却是惨败。所以，这种办法，不知能让人类走多远。但除此之外，还有更好的办法吗？除非人类永远不发展智能机人，但那是不可能的。

        “宾尼，你害怕死亡吗？”莫丁继续跟机人闲聊着。

        现代量子计算机技术的发展，已经使得计算机的运行速度和存储能力得到极大的提高，它不再是人们在设计人工智能计算机程序时，需要考虑的资源限制问题。

        “有一分不记得了，比如我的出生地、我从哪里来的，我的任务是什么。”看起来他的样子有点迷茫。

        所以设计者们为了解决程序运行过程中出现的种种问题，往往会不断的增加和修改程序，加进去一个又一个的修订模块，使得人工智能程序变得越来越庞大和复杂，

        “宾尼，假如这个世界只剩下你一个人存在了，你最想什么呢？”

        “行！等我们逃出包围圈获得自由了，我们仍好朋友，好吗？”

        莫丁有些明白了，这个机人在向他的教官山特学习的过程中，出现了令人工智能原创者意想不到的偏差，以至于宾尼的价值判断超过了命令优先权，让他突破了原创者的安全控制手段，发生了“叛乱”。

        “嗯……”出乎莫丁意料之外，宾尼竟然“思考”了一会才说：“我想再造一个和我一样的机人。”

        “哦？为什么呢？”莫丁很感兴趣问。

        “这些都还记得，包括我要保护你不被你的敌人抓住。除了那些我的出生、我今后要什么等等都不记得了。”

        “好的，我们现在这儿隐蔽好，等到天一黑，我们就乘坐小艇逃到更远的地方去。”宾尼仍然记得他的职责。

        “那个！”莫丁指了指宾尼背后的步枪和尖刺：“那个你还会使用吗？”

        “你还记得以前  的事情吗？”

        “莫丁！”机人发出柔和的声音“我们是朋友！”他喃喃自语。

        “那些都不重要，你就别去想它们了。”莫丁宽他。

        机人将转向了莫丁。

        “我必须尽量生存下来，避免死亡，但是‘害怕’这种感情用词是你们人类专有的，对我们机人并不适用，如果有需要，机人可以付出死亡的代价，但是不用害怕。”对于宾尼这样的回答，莫丁觉得应该是内程序设定好的结果，作为一名机人战士，在战场上生存下来是非常重要的。

        所以人类制造了比自己大脑还要复杂的智能计算机系统，就面临着失去控制的危险。

        “我想要一个朋友，山特告诉我说，朋友是世界上最珍贵的东西。”