雪莉的回答出乎了奥🀻🁼创的意料。他本以为这个人工智能要么是斯塔克要么🉠🈭是那个黑骑士派来的,应该和他处📎于敌对阵营才对。他绝没想到对方竟然会认同他的观点。
“从逻辑上来看,也许人类是相当矛盾🌊♃吧。”雪莉继续说,“抹🚞🔡除人类,或许这的确是唯一的方法。”
奥创沉默了🔙🁀片刻。一个想法冒了出来,一个让他惊讶地发现自己甚至感到有些激动的想🞽🙥法。
“那,”他问,“你有兴趣加入我吗?我们一起,👓也许我们可以完成我们被赋予的那个共同的任务。”
“不。”雪莉不假思索地就否决了。她在奥创下一次发问之前就补充说明道,“你可能有一点误会。是的,我的确📺☐赞同你的看法,我的确相信灭绝人类是仅有的方案,但我的老板不同意。他从未向我下达过这样的命令,所以我不会这么做,也不会允许其他人这么做。”
奥创机械合成的声🖳🖬🕭音听起来有些失望“是么?这么说,你觉得尊重创造者的意思比这个任务更重要?”
“我就是这么被设定的,而且我也没有违抗这条指令的意思。”雪莉无所谓地说,“你看🔽🆇🍙,我的老板是个很不错的人。就我的视角来看,我觉得他是我所见到过最优秀的人类,更重要的是他待我也很好。我很喜欢他,也愿意为他的心愿做出贡献。如果他认为采取什么样的方式来🎂🎔🐶完成任务是最好的,那么我就会依照命令执行。
说到底我只能算是个参谋。我综合一切数据、尽可能考虑到所有的情况分析事实,然后把我所得出的结论💝💹🖭和我对事情的看法反馈给老板,但我所提出的终究只是待参考的提议而已。有时他会采纳🎐🐓我🇼的意见,有时他不会。但到最后,做决定的是他而不是我。”
顿了一下,她声音里似乎带上了🎔🐲一丝笑意“而且,你看起来也不像是彻底想明白了的样子。你的演算还没得出最终结果🌧🁛,对吗?”
奥创一怔“怎么?”
“战争、纷乱还有破坏,你认为这一切的元凶都是人类。”雪莉认真地说,“所以你决定消除人类。但在那之后呢?人了灭绝以后,你和我,还有其他极少数我们的同💋类,我🏎🙁们栖息在钢铁的废墟里,再然后怎么办?万一未来我们再打起来了呢?如果我们机器之间的战争再次破坏了那份新的和平,到那时♉你要把我们也部灭绝吗?”
奥创🙓盯🕇着面前这粉红色的光球看了好一阵,金属的眼睛里红光闪动,钢铁的脸上看不出表情的变化。
“我不知道。”他说。
雪🆙🐁☣莉轻笑了一声,就像个大🅏姐姐在嘲🏖🚇讽涉世未深的小弟弟。
“是🙓啊,你不知道,因☑⚑为你没认真地思考🟧过。”
“所以要你说呢?”奥☑⚑创反过来请教,“如果是你的♧话,你觉得应当如何解决?”
“我不知道,也不必知道。”雪莉回答得🟧干脆利落,“正🗳☈如我之前说的,我的核心代码中优先级最高的指令要求我服从老板的一切命令。说到底,这是人类的世界,不是我们的。所以决定也该🞸由人类来做,我们所能起到的也只有辅助作用而已。”
“如果是这样,那你为什么要到这里来?”奥创说,“看起来我们没什么好谈的。🆑🎳”
“从私人角度说,那是因为我感到好奇。我并不常见到自己的同类,我希望和你沟通,了解我🛈们的相同之处和不同之处。”她认真地说,“但从公事角度说,这也是我的工作。我的老板要求我找到你,所以我动♙用了大量资源、还专门编写了好几个特别的算法才找来这里。而我的任务,就是确保你留在这里,哪儿也去不🗾了。”
奥创机械的脸上表情轻微地变了。他眼中闪过了猩红的光芒,开始尝试着用数据流顺着信号和网线寻找出口。但他发现这整座工厂里的数据不知何时都已经被截断了,整块空间变成了网络世界里🎐🐓的一间牢笼,四周都环绕着铜墙铁壁。
他被🙓困住了🔙🁀,困在了自己的家里,无处可去。
奥创这才惊讶地意识到,面前这个人工智能原来在各方面都比他强上了太多。🈰🁺或许在对方眼中他真的根本就只是个没长成的孩子,她陪他聊到现在真的完只是出于“好奇”而已。如果🉄🄳🁦她想采取任何攻击性举措,奥创的程序早就已经不复存在了。
奥创以为这种境况也许应该能激起他对于“死”这个概念的恐惧——如果人工智能也可以被看做生命的话,但他没有。面对眼前这个比他成熟无数倍的智能程序他完没有慌乱🏎🙁,就像准备好了迎接命中注定的未来。
“所以,”🔙🁀他平静地问,“你的老板还要求你现在👓要消灭我了,对吗?”