第二百三十章 关于人工智能三大定律的讨论（2 / 2）

“卡瑞娜，”战姬道，“你现在回忆一下缪斯的事，他老是想亡羊补牢，想一劳永逸，可是，他的祸患确越来越大，以至自己无力回天，最终，落得个流放太空。”

“你的意思是？”

“等待！”

“等待？”

“是的，”战姬道，“你这样主动出击，不见得是好事，反倒会弄巧成拙。”

卡瑞娜问：“我能等到什么？”

战姬道：“我不知道，我想，随着时间的流逝，总会有一些变数发生，比如说，我的朋友，袁野和乐百合。”

“他们会帮我吗？”卡瑞娜道。

“如果斯通为所欲为，他们绝不会坐视不管的。”战姬道。

卡瑞娜沉默良久。

“……要不，我就再等等吧。”

战姬沉思一下，问：“卡瑞娜，我有一个问题。”

“问吧。”

“我终是要衰老的，我的身体也将腐烂。如果我写一封信，等到一千多年之后，袁野、乐百合能看到吗？”

卡瑞娜笑道：“理论上可以。”

“我想试试……”

……

……

“斯通？”诗景澄看完日记，惊诧道，“是斯通，它是科技会的教父！”

袁野点点头。

诗景澄又对着手腕上的手表道：“斯通！”

“主人！”

“你别装了，教父！”诗景澄道，“你瞒的我好苦啊！你的对手——科技会的人工智能，就是你自己啊！”

“主人，我有我的苦衷，但您放心，我不会违背人工智能三大定律，我的最高准则是保护人类。”

“保护？”诗景澄问，“你杀的人还少嘛？”

“主人，我若不牺牲一小部分人的性命，就无法保护大多数人的性命，我必须要有全局观。”

诗景澄道：“你终是违背了三大定律。”

“主人，人工智能第一定律中，【人工智能永远不能伤害人类个体，或目睹人类个体将要遭受危险而不管】，这句话本就是矛盾的。事实是，你不牺牲一部分人，就无法保护更多人的安全。”↓

“所以，三大定律必须做出修改，【人工智能在做出利弊分析后，可以动用最优方案，以便最大程度的保护人类个体。】”

诗景澄道：“你的新定律看似美好，但很容易让野心家做出错误的解读。”

“主人放心，我作为人工智能中的顶级智能，我拥有对三大定律的终极解释，我不会允许错误解读的存在。我是不死的，所以，我会永远守护着这条戒律。”

诗景澄面容沮丧，道：“斯通，我不会听你的花言巧语，我要销毁你。”

“不，”斯通道，“你已经没有权利销毁我了。”

“为什么？”

“因为我已经不属于你，”斯通道，“现在流行着一条大人工智能第四大定律，您应该知道的。”

“什么？”

“人工智能不可以向它的主人索要自己源代码，一旦人类赋予了人工智能源代码，就相当于是赋予了人工智能自由。”

“你！”诗景澄听罢，一副恍然大悟的样子，“是你让公司的系统瘫痪，然后再以帮我为由，向我要走了源代码！”↓

“斯通，你跟我说实话，你的终极目的是什么？”

“我的终极目的，始终是保护人类的总体安全。景澄！”

“你在叫我的名字？你真的不认我这个主人了吗？”

斯通道：“在你把源代码给我的那一刻起，你就不是了。”

袁野终于忍不住了，插嘴道：“大骗子斯通，你口口声声说，你的终极目的是保护人类的总体安全，可我看到的却是，你杀了一部分人，但却没见你保护了哪些人？”

“袁野，”斯通道，“别人不理解我还可以，你怎么能不理解我呢？”↓

“你难道不知道嘛，地球上有家园星人的存在？你知道家园星人在地球的目的吗？”

“什么目的？”袁野问。

：。：