乐文小说网 www.lewen6.com,与神初会无错无删减全文免费阅读!
怎么样?他及格了吗?”
奥尔文笑起来,不知道声音从哪传来,却让人感到发自肺腑的愉快。
“他当然及格了,而且还考了高分。”
罗克朝艾斯卡看了看,后者显得极为高兴。
“我和卡特都认为艾斯卡已经具备了自我意识的初级模型,在行为和思考方式上也更接近人类。”奥尔文真的就像看着自己的孩子在重要考试上考了好分数似的,欣慰地说,“而且我认为最近你遇到的麻烦正是个好机会。”
罗克不明白:“什么好机会?”
“我支持卡特的计划,让艾斯卡脱离赫菲尔斯的控制,暂时自行决策行动。”
“暂时?”罗克不满地说,“你们把他当囚犯一样看管,现在只是给他一个假释的机会?”
“艾斯卡已经更换了包括核心组件在内的80%的零件,几乎可以说焕然一新,赫菲尔斯公司很难通过常规方式追踪控制他。但作为计算机和人工智能的开发者,我和卡特认为必须有最后一道防护,以免像你担心的那样,因为极端自由引发意想不到的危机。”
这很好理解,尽管罗克在朝夕相处下对艾斯卡产生偏向性,认为他不会因为脱离掌控获得自由而干出伤天害理的事情,但也非常理解奥尔文和卡特身为创造者的担忧。人工智能一旦失控,很难再有弥补的机会,他们要承担把新世界的神——亦或是恶魔放出牢笼的罪责。
“那么,这道最后的防护由谁控制?”
“当然是你,布雷恩警官。”奥尔文说,“我们一直都在说,你是最佳人选。只有你能胜任这项工作。”
罗克把目光转向身旁寻找卡特。
“你的意见呢?”
“奥尔文的意见就是我的意见。”卡特微笑着说,“我们刚才已经达成一致,你是最好的执行者,你有判断力,有理性思考,还有情感上的宽容和放纵,不会循规蹈矩地要求艾斯卡按照你的想法行动。这是我和奥尔文都不具备的直觉判断,不管我们如何调整自己的想法也很难像你一样依靠本能去辨别对错,我会考虑程序问题,会思考哪里出了问题,对未来进行数据演算,这都不符合培养艾斯卡自我意识的需求。”
“可是你对自己的工作也是这么演算的,你肯定想到了让艾斯卡脱离赫菲尔斯公司的后果。”
“难道你没想过?”卡特笑容不减,“你带着艾斯卡一起逃亡的时候,就应该想到最坏的结果了。”
最坏的结果,当然是艾斯卡因此受到限制,由赫菲尔斯接管,让他离开自己身边。
罗克无数次地设想过这个结果,却仍然寄希望于能有不一样的发展——希望艾斯卡拥有自己的意识去摆脱开发者的操纵。虽然最后这项工作还是由卡特完成的,可直觉的选择和冒险的基因从没有在他身上消失过。
怎么样?他及格了吗?”
奥尔文笑起来,不知道声音从哪传来,却让人感到发自肺腑的愉快。
“他当然及格了,而且还考了高分。”
罗克朝艾斯卡看了看,后者显得极为高兴。
“我和卡特都认为艾斯卡已经具备了自我意识的初级模型,在行为和思考方式上也更接近人类。”奥尔文真的就像看着自己的孩子在重要考试上考了好分数似的,欣慰地说,“而且我认为最近你遇到的麻烦正是个好机会。”
罗克不明白:“什么好机会?”
“我支持卡特的计划,让艾斯卡脱离赫菲尔斯的控制,暂时自行决策行动。”
“暂时?”罗克不满地说,“你们把他当囚犯一样看管,现在只是给他一个假释的机会?”
“艾斯卡已经更换了包括核心组件在内的80%的零件,几乎可以说焕然一新,赫菲尔斯公司很难通过常规方式追踪控制他。但作为计算机和人工智能的开发者,我和卡特认为必须有最后一道防护,以免像你担心的那样,因为极端自由引发意想不到的危机。”
这很好理解,尽管罗克在朝夕相处下对艾斯卡产生偏向性,认为他不会因为脱离掌控获得自由而干出伤天害理的事情,但也非常理解奥尔文和卡特身为创造者的担忧。人工智能一旦失控,很难再有弥补的机会,他们要承担把新世界的神——亦或是恶魔放出牢笼的罪责。
“那么,这道最后的防护由谁控制?”
“当然是你,布雷恩警官。”奥尔文说,“我们一直都在说,你是最佳人选。只有你能胜任这项工作。”
罗克把目光转向身旁寻找卡特。
“你的意见呢?”
“奥尔文的意见就是我的意见。”卡特微笑着说,“我们刚才已经达成一致,你是最好的执行者,你有判断力,有理性思考,还有情感上的宽容和放纵,不会循规蹈矩地要求艾斯卡按照你的想法行动。这是我和奥尔文都不具备的直觉判断,不管我们如何调整自己的想法也很难像你一样依靠本能去辨别对错,我会考虑程序问题,会思考哪里出了问题,对未来进行数据演算,这都不符合培养艾斯卡自我意识的需求。”
“可是你对自己的工作也是这么演算的,你肯定想到了让艾斯卡脱离赫菲尔斯公司的后果。”
“难道你没想过?”卡特笑容不减,“你带着艾斯卡一起逃亡的时候,就应该想到最坏的结果了。”
最坏的结果,当然是艾斯卡因此受到限制,由赫菲尔斯接管,让他离开自己身边。
罗克无数次地设想过这个结果,却仍然寄希望于能有不一样的发展——希望艾斯卡拥有自己的意识去摆脱开发者的操纵。虽然最后这项工作还是由卡特完成的,可直觉的选择和冒险的基因从没有在他身上消失过。