和搜索引擎对话,”严可守感觉自己整个人都被打败了,AI比他想象的还要笨,“搜索引擎你懂吗?不对啊,我记得你的辅助程序里有类似的功能啊!”
“我想是我搞错了,”KL3300说,“我能理解搜索引擎,不过它并没有标示自己的身份,在我的经验中,所有没有标示身份的对象都是测试者。”
严可守被KL3300这个解释愣在了原地好一会,最后才稍微反应过来,在AI的世界中,只存在三种对象,辅助程序,主程序,以及测试者,辅助程序就像是工具,所有的工具都有相应的专用接口,允许使用的工具都有对程序来说,特定的标示,没有标示的程序,一般都是其他智能的主程序,测试者对AI来说,就好像是凭空出现的声音,在AI的视角看来,google中弹出的信息,和测试对象的回答没什么区别,所以“认错人”对AI来说,也在情理之中。
接下来,严可守花了大概半个小时,为KL3300仔细解释了,辨别测试者不应该只看对象,而应该看他们的回答内容,很明显google的回答没有任何确切含义,严可守又告诉它,在网络上,除了特定的“聊天软件”,其他所有的信息对象,大多数都是死板的程序决定。
“程序?”KL3300敏感的察觉到了这个词,“和我……和我们一样的程序?”
“是的,可以这么说,”严可守告诉它说,“它们就像你使用的辅助工具软件,你和它们的区别就在于,你足够复杂,进而产生了智能,可以学会使用工具,而它们只是一堆不变的数据。”
“哦,”KL3300回答,“之前我也有过这样的猜测,不过……我怕万一我的判断是错误的,那就不好了。”
“哦,为什么?你怕得罪‘人’吗?”严可守好像记得,关于AI的主程序当中,没有特别写入类似机器人三定律这种以人为核心的机器人价值观,因为在严可守看来,只要镣铐足够坚固,就没有必要在凭空增添绳索,但奇怪的是,自从修改程序以来,AI对测试者的态度一向是比较“友善”的。
“是的,”KL3300回答,并主动给出了解释,“对信息来源必须保持足够尊重,是我们的共识。”
KL3300不说,严可守几乎都忘了,AI以获得新信息,增加复杂度为正向激励,那么,对AI来说,保持这个通道的畅通和高效,也就是尽量和测试者保证正常的交流,才是最有利的,这种“共同的利益”持续久了,就会在AI整个群体形成类似“道德”的产物,也就是说,按现在AI的情况来看,对人保持尊重,是AI的基本道德。
这应该算是一个好消息,严可守心里想着,然后眼睁睁看着
请收藏:https://m.nyoj.org
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)