变人:07 恐怖谷定理(2 / 2)
“已经以寻物启事的方式向媒体登出,但是没有大面积投放,我担心过度投放反招致质疑。”在格林森案的时候,已经提到过一个概念,社安局有义务在稳定的框架内,使社会中每一个因子的四轨维持在相对合理的区间,尤其是具有传染性的心理活动,需使其波动保持在相对健康的良性范围。
艾尔文又认可地点了点头。
然后,他从位子上站了起来,走到了两人面前。
面无表情。
“我想,你们应该都知道这件事的敏感性以及严重性。”
两人没有作声。
“所以,才会把案子交给你们,我认为你们比其他人,可以更好地理解这个案子的本质。”说到这句话的时候,艾尔文有意看了李维克一眼。
“恐怖谷理论,你们都听说过吧?”
两人点点头。
“和谐,我们必须去守护的和谐。你们想过它有多脆弱吗?个体的心理恐惧会像病毒一样向群体蔓延,进而衍生出冲突、犯罪。更不要说是一个连犯罪概念也不知道的机器人出现在社会之中,会造成怎样可怕的连锁。”说到这里,艾尔文停顿了一下。
“决不能让一个拥有‘自我’意识的机器人扰乱整个社会的四轨。所有的机器人,只要平稳地维持在这个理论的第一阶段就足够了。”
根据恐怖谷理论,人与仿生机器人的相处过程共有三个阶段:
第一阶段,能模拟人类一定范围的能力,机械式地对人友好,有亲切感,可被控制。
第二阶段,拥有更进一步的逻辑思维能力,可以简单理解人类,但人类不知道机器人形成理解后的目的,这种未知造成了敌对感,更造成了恐惧。
第三阶段,能与人一样,更深刻理解人类,可使人得以信任并产生移情,像对待同类一样。
这三个阶段,形成了一个山谷型的曲线。
但是,这个197年被提出的理论中,还有一个没有被提及的阶段。
即,第四阶段,当机器人的智能、运算能力超越人类,并拥有人类一样的情感,甚至更上位情感,以及不再围绕人类的本位化的思考模式的时候。
“其实,这个理论在早已成熟的规范下,都不会构成今天的问题,但你们现在遇到的一号与二号doll,显然没有按规定植入规范化程序,并很有可能已经超出了第一阶段,甚至,根据她的言行举止,有可能会达到第四阶段。我相信你们应该知道这意味着什么。”艾尔文继续说到。
那atom呢?代表atom的爱丽丝呢?哪怕这句话在李维克的心中泛起了疑问,但两人仍然是点了点头。
“你们当下有两个主要任务。第一,继续搜索一号doll的行踪,一旦发现,马上进行击毙。绝不容许再出现相关的第二起刑事案件。”
“马上击毙吗?局长,这是atom的意思吗?还是”击毙这个词,杜兰的印象中,艾尔文是甚少会说的,况且,这句话中,也包含了任意场合的意思。为了慎重起见,他希望可以得到确认。
“这是命令。”艾尔文只冰冷地回答到。
他不再说话。
“第二,梳理清楚造成这个问题的起源,相关的一切历史记录,北方重工的关系,他们的研究,目的。”
“是。”两人应了一声。
局长的这几句话也很是微妙,他完全把第二个doll给绕开了。似乎是另有打算。
“如果明天仍然没有取得实质进展,atom将会倾斜算力推进这个事情。”艾尔文的结束语,也从侧面印证了这个案子的严重性。
在即将退出办公室的时候,李维克还是冒着被批的风险,多问了一句,关于他心中难以平复的问题。
“局长。”
“嗯?”
“那atom,算是第几阶段?”
但是,让他没有预料到的是,局长并没有因此而生气,他甚至带着难以察觉的一丝笑容。
“atom,并不在这个理论之中。”
李维克离开了,被杜兰一把拉了出去。
“你疯了吗?瞎问什么,atom是不会像人一样来做判定的,否则四轨判断怎么执行下去?”杜兰没好气地说到,哪怕再三叮嘱,这小子还是要来点事。
而这些话,都是艾尔文早已传达过给他的,如今他不过是复述一遍给李维克听。
此时的李维克,仍没有很好地消化这句话的意思。
当他真正理解这句话,并知道这句话的含义有多么恐怖的时候,已是很久以后的事情。