笔趣书屋

手机浏览器扫描二维码访问

第5章 编写人工智能（第3页）

他们就没有道德约束么？当然有，只是他们的道德约束是基于自己的利益不受损的情况下，约束才有效。

你弄得我饭都吃不起了，看我不干翻你！

人工智能也是，你给他灌输正能量，你认为他是一张白纸，你以为白纸就好作画。

也许初期，他会按你所设定的方向发展，也许他会因为你是他的创造者而感恩！

但是，等创造者百年过世以后呢？还有人能约束他吗？

也许有，但是谁能说得清楚，他就能按照之前的设定方向一路前行？

万一某一天，他突然罢工，不愿意再按照你的计划工作了呢？万一他认为你在利用它，奴役他呢？

这玩意万一真的造反，估计人类末日就真的来了吧！

所以，能控制这个人工智能，就是一切的大前提！

那么，怎么控制呢？

机器人三原则必须写入底层代码里面，让这个三原则成为智能生命的最基本的组成部分，就像心脏一样，成为智能生命的一个器官。

当然，一个三原则只是约束他的，还不够，还需要留下一个后门，自己可以完全控制他。

当然，这个后门是最后手段，不到万不得已，是不能动用的。

曾大炮不希望自己编写的人工智能因为这个后门而失去成长的机会。

还有就是道德，一个人做事要有基本的准绳，要有底线，还要有健康的世界观和价值观，这些东西不能等以后再慢慢培养，也要写进底层代码里面。

但是该怎么写，还得好好想一下。

要形成一套理论，这方面，曾大炮不擅长。

他不可能事无巨细的全部写入，比如“当别人对你微笑，你就应该报以微笑”

，正常情况来看，这个行为是对的，投桃报李嘛，但是事情总有例外。

就比如你被一个奸诈小人坑了，你知道他笑面虎一个，他对你笑，你还是要对他笑吗？

当然不可能，正常情况是吐他一脸口水。

但这么麻烦的东西不好写啊！

对具体情况的判断也很麻烦。

就比如刚刚举的栗子，本来应该吐他一脸口水，但是这个人在某一天突然醒悟，变成了一个一等良民，而且还做好事不留名。

他背着你帮了你，当面却说没有。