到那时,不论计算机(无意间)对人做了什么,是当做有趣的东西豢养,还是当做碍事的垃圾清除,对人而言,决定生死的际遇,在计算机而言却只是“城门失火,殃及池鱼”里的水,连鱼都算不上。
城门失火,因灭火而取水,最终导致鱼的死亡,人至少还看得到这一点。
然而人类开路劈山,挖矿掏洞时,会有这样的思想觉悟,觉得自己的所作所为,正在颠覆、灭绝矿物分子的大千世界吗。
当然不,在(自以为是)的人眼里,矿物,岩石,根本就是没有思想的“物”;
那么在计算机眼里,人,很可能也是一样的“物”。
这,才是某意味深长之句的真正意味:
毁灭你,与你何干。
……
梦中醒来,耳边是闹钟乐声,黑暗中的男人抬手抹一把额头,冷汗涔涔。
起床,洗漱,坐下来食用“高级肥皂”,准备投入新一天的忙碌,吃早饭时的片刻闲暇,方然还是忍不住想起那一切。
事态,比自己之前所想,还要更严重。
事关计算机,人工智能,乃至计算机ai的自我意识,原本他一直以为,只要不主动研发“具有自我意识”的人工智能,计算机系统对人而言就是安全的,永远只能作为一种工具、而不会成为一种威胁。
但现在,不经意间的深邃思考,却让方然窥见了其中的莫大危机。
当能力发展到一定程度,或许是出于“创造性研究”之目的,或许是出于其他动机,计算机的算力、能力突破了上限,继而达到能完全取代人的程度,不管这系统一开始的目标有没有包含自我意识,那样的计算机,其行为都将彻底失控。
那时的计算机,庞大体系内的算法,究竟是在进行一些什么样的运作,恐怕是人类绝对无法洞悉的深奥。
继而,对那样的存在,一切人类已有的概念与手段,都未必会起作用。
借用教义的词汇,在自己一手创造出的神面前,人的手段,又怎可能还会有任何的用处。
只因到那时,那样的计算机系统,将会是盖亚表面的一种前所未有之存在,是生命演化链条被人为截断之后,藉由完全不同之另一条路线而诞生的,更高等、更先进、更强大的新物种,演化天梯上比人更高一阶的存在。
面对那存在,人类对抗计算机,恰如猴对抗人类,又哪会有一丝一毫的胜算。
危险,莫大的危险,潜藏在计算机的发展脉络之中。
并非第一次接触这样的断言,此时此刻,置身于天堂镇的地下世界,恒温恒湿的房间里,方然却有点浑身发冷,很不舒服。
他头一次意识到,若干年前流传于联邦、乃至世界的那些警示,确有意义。
虽然在自己看来,危机的实质,与发出警讯的诸多名人所言并不尽一致,但指向的最终结局
请收藏:https://m.nyoj.org
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)