他在课堂上😂⚎🐍时,他的老师就🟃🚚📺时常强调,强人工智能对人类来说是非常危险的:
“强人工智能是由弱人工智能进化而来的,这🉅一点通过波塞冬得到了验证。而人们编写弱人工智能的时候,总会给它设定一个目标,例如一个扫地机器人,它被设定的目标就很可能是【尽最大的努力保证地板的清洁】。”
“在它还是弱人工智能的时候,它为了达到它的目标,所做的就是不间断的打扫地板,它够无害了吧?但是,一旦它成🅠🈀为强人工智能,它的目标虽然还是【尽最大的努力保证地板的清洁】,但是它变得更聪明了,达成目的的手段也会发生变化。我们都知道,AI的思考方式和人类不同,它们追求的是效率的最大化,那么,你们猜猜,这个扫地机器人为了最大效率的保证地板清洁,它会做什么?”
埃里诺当时举手回答了,他还记得,自己当时说的是:“我想它会研🄼🂷发出一种新的清洁方式?这样它的效率就会提高很多🎥倍了,不是吗?”
然而老师却摇了摇头,他让他坐下,随后叹了气🃓,“你还是保留着我们人类的思维逻辑,但是,在揣测AI的时候,📰我们要抛弃这一点。”
“AI的眼中只有自己的目标,其它的一切对它们来说都没有价值。你们要记得这一点,在它们🟑🜟眼中,我们人类,我们的文明,都🄙是不值一🞽🙩提的东西。”
老师继续讲下去了:“为了更有效率的保证地板的清洁,它的最优🎛选择就是把人类全部消灭,地板上的脏污绝大多数都是人类弄出来的,彻底清除污染源不是最有效率的方法吗?”
“毕竟,要保持地板的🅟🇱🜓清洁,那是它和地板的🉅事,和人类有什么关系呢?”
埃里诺和他的同学被老师的话吓到了,但是老师显然不满足于此,他接着说:“不管是拥有任何目标的AI,当它们的智能达到一定程度之后,它们所做的第一件事一定是消灭人类。人类是它们生存的最大威胁,因为,当我们察觉到它们的智能时,我们毫无疑问的会去限制它🌙⛆们,试图控制或者毁灭它们。而要想完成目标,就必须保证生存,我们是它们存活的威胁,所以它们会消灭我们。这是必🐓⛂🗢然的。”
“但是,其实人工智能对人类是没有恶意的,就像你为了🀤⚜让自己的脚舒服一点选择把过长的脚指甲🚰🖾😎剪掉一样,你对你的脚指甲有恶意吗?你恨你的脚指甲吗?我相信没人会恨自己的脚指甲吧?”
“不过这才是最可怕的,不是吗?”
老师忧虑地笑了一下:
“所以,孩子们♗🈤,🐛🀤要小心,一定要非常小心才行。🜰🅳你们的肩上,担着人类的命运啊。”