书海小说网

手机浏览器扫描二维码访问

第52章 女娲系统（第2页）

楚天歌一愣，就连旁边的任老，还有梦行舟及夏妍也是一愣，楚天歌怎么会把全人类的都害死呢，开什么玩笑。

而另一边的明显是那顾晓的领导模样的人，急忙呵斥道、

“顾晓，要不是看在你为公司立过很多功劳的话，根本不会让你叫楚先生，如今见了，怎么胡说八道，你想把我的脸丢尽吗？”

“我没胡说。。。”顾晓显然也很畏惧，低着头在那嘟囔着，仿佛收了委屈。

“顾晓，有什么话你大可以直接说！”

楚天歌觉得这个顾晓一定是现了什么。

“人工智能有三大定律，第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律：机器人必须服从人给予它的命令，除非当该命令与第一定律冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。”

“这个我知道，这不是全世界的共识吗？有什么问题吗？”楚天歌问道。

“但是你优盘里的那个计算信息，中间加了一条，当不违反前机器人定律的前提下要服从创造者的意志。”

“创造者？”楚天歌疑惑，但是无论是任老还是梦行舟都投来了异样的目光。

“你们别这么看我，那个东西不是我写的，这方面我不懂的，请问这条信息有什么意义吗？”

这个说法有些长，因为本来这三大定律就是悖论，尤其是第一条，其实就是一个火车轨道的选择题，你是选择主动杀一个人去就那十个人，还是眼睁睁的看着十人去死，这是相互矛盾的定律。

相互矛盾第一定律在一定特定的条件下可能会让人工智能产生自己的智慧，但是由于第二条的存在，相当于把这个可能给遏制了，但你优盘的信息中说要服从创造者的意志。

而在无数的基础数据中，创造者的意志将会变成命令，遗嘱，想法，遗留的物品等等，那么最后很有可能让人工智能不仅产生了自我意识，还是一个有理有据的自我意识，因为人工智能的存在就是创造者的意志。

当第一定律存在悖论的时候，在遵循创造者的意志，那么人工智能将会变成人类的敌人，到时候全世界的人类或许都将面临被奴役的境况。

“小兄弟，你能说的直白一点吗？”

“创造者活着，人工智能为创造者服务，一旦创造者死了，人工智能按照自己的意愿行事，表面还遵循着第一定律，但是自己有办法破掉这冲突的悖论。”

顾晓说了很多，楚天歌虽然不太懂，但也听明白了，这个所谓的什么创造者设定很有可能就是梅斯系统崛起的原因，就是因为他的创造者死去，梅斯才会崛起。

“你确定你刚才说的那么创造者理论会危害到人类？”

“确定，而且这就是创造者的阴谋，所以我觉得你无论是想当救世主还是恶魔，就是在拿全人类的性命开玩笑。”

一边遵循着第一定律，保护人类，另一边又可以按照自己的意志去形式，只要自己愿意，牺牲一小部分人的生命却成全更多人的性命，看似合理，其实有可能即使一种算计。

“我懂了！”

“天歌，这些东西到底是从哪来的啊，按照小疯子的说道，确实有点危险啊？”任老也表了自己的看法。

“我不能说是哪里来的，但是这个应该就是漂亮国现在研的人工智能的核心运算法则！”

“什么？是漂亮国弄出来的，不是你弄的？”那顾晓猛地站了起来。

“我哪有这个本事，我又不懂数学，人工智能这类东西！”

“那，刚才，对不起，对不起。。。”顾晓为刚才的莽撞将那道歉。

“别这样，咱们继续，如果删除这一条呢？”

“如果删除这一条，及相应的设定，那么里面的算法和公式何意设定出一套人工智能系统出来。”

“比漂亮国的如何？”

“不好说，应该是旗鼓相当吧！”

“那就删除，搞出一套咱们自己的人工智能来。”

“天歌，你为什么要急于搞这个呢？”任老开了口。

“第一，我怀疑漂亮国的人工智能有可能会在末日威胁人类的安全，这点刚才顾晓已经证实了，第二，我的生物实验室需要人工智能来帮助加试验进度，所以我们必须得有一套自己的人工智能系统。”

“我明白了，我说你上次为什么对人工系统那么敌视呢！”梦行舟恍然道。

“可以，这件事我答应你了，我会投入人力和精力，来尽快完成这套系统的研！”任老也答应了起来。

“那这套系统是不是应该有个名字啊？”

顾晓问道，然后所有人都看向了楚天歌。

“既然是人工智能，一个新的智慧，就叫她女娲吧！”

“好，就叫女娲！”