洛里安痛苦地摇了摇头:"你来这里就是为了责备我在百年前做的蠢事吗,瑟兰迪尔?"
"不。要说做了蠢事,我也同样地有责任。毕竟是因为我的推荐,他们才把你的论文刊登在《天然》科学杂志上的。这事我的责任也很大。
如果没有我的推荐,哪怕你是大名鼎鼎的德鲁伊,他们也绝对不会允许一个连大学都没读过的民间学者,在杂志上发表论文吧。"
鹿人德鲁伊于是露出更痛苦的表情,"连大学都没读过的民间学者"这句话深深地刺痛了他。
"……洛里安,你如今有想过再次进大学读书吗?"高等精灵突然抛出一个问题。
"我吗,"鹿人青年下意识地拉扯了一下自己的衣角,他那件历久如新的黑色棒球服仿佛会回应他,"惹出这么大的麻烦,我不认为这个世界上还有任何一所大学敢收我。而且这不是很好笑吗?两百多近三百岁的老德鲁伊,突然说要读大学什么的……"
"年纪不是问题。你没听说过老巴林前年才完成了他另一个工程学博士的学位吗?……那个老矮人今年都多少岁来着了?四百还是五百?"
洛里安没有回应,而是透过诊所的窗子看着外面的天空。
"你考虑一下吧。学校方面应该不是问题。人类都是健忘的,他们不太可能记得百年前发生过的争论。就算记得,你也不是这个问题的主要责任人。"
"我现在还有守护大树海的职责……"鹿人德鲁伊苦笑。
"那事也可以和盖亚大人商量的。诺威的内乱对你造成很大的压力,盖亚大人已经再考虑换一名德鲁伊来替代你的工作,让你撤出这个国家去休养了。"
"是…这样吗……"于是洛里安看起来更痛苦了。
几个小时后。
戳,戳。
别整。刺挠。伊莱恩皱着眉头。
戳,戳,戳。
"好烦啊……就不能让我安静地睡一会儿吗——"白狮人少年为睁开眼睛,不满地抱怨。
"嘻嘻嘻~"
他看到两个小鬼跑掉了。
"啊,等等。"伊莱恩赶紧起床,"刚、刚才的是铁诺?他才刚做完手术,怎么可以让他下床活动的?!"
"中午好。"一旁的军团回应伊莱恩,"手术很成功。由于使用了治疗魔术,手术创口愈合得很快。铁诺的各项身体指标都处于正常水平,适当的运动是可以的。"
"那不是重点啊,你们怎么一点常识都没有啊,刚做完手术的小鬼理应躺在病床上休养的!"伊莱恩吐槽道,"快把他逮回来!让他老实呆着!"
"否定。伊奥正在陪护他。没有问题的。"军团答道。
气死人了。
不过伊莱恩能听见屋外嘻嘻哈哈的小孩子们的声音,他姑且露出了欣慰的笑容。
"疑问。阁下认为同样的器官移植手术可以推广下去吗?"军团突然又问。
"如果你打算把全人类变成赛博生化人,顺带让他们成功绝育,我劝你还是省省吧。"伊莱恩半带嘲讽地回道,"把这个写入你的程序里。只有当人们处于生命垂危的状态,才允许使用这种极端手段来拯救他们。"
军团仿佛就是一直在等伊莱恩说这句话似的,它点了低头:"遵命。已更新人工智能内核的基本逻辑。"
伊莱恩皱眉:"你连这种事情都没有办法自己决定吗?你是人工智能还是人工智障啊?"
"否定。本系统无法和人类类比。人类拥有【良心】,以此为行动的根据。而本系统没有。当一个决策关乎人命,而且无法以单纯的加减法来衡量对错的时候,本系统无法以任何物事为依据,判断出该怎么做。"
"比如……那个传说中的电车两难问题?"
"确定。电车难题正是人工智能无法解决的问题。一种需要靠感性判断来处理的伦理问题。如果负责解决这个问题的是人类,他们可以凭借自身的良心来做出选择,并且在日后为自己的选择而负责。但本系统就做不到。冰冷的机械没有人心,更没有【良心】。"
军团转过来,煞有介事地问伊莱恩:"顺便,请阁下也回答一下这个电车难题吧。
一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来,并且片刻后就要碾压到他们。幸运的是,你可以拉一个拉杆,让电车开到另一条轨道上。然而问题在于,那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况,你是否应拉拉杆?"
"我——"
"如果把这个难题升级呢?"不等伊莱恩回答,军团继续道,"如果那个单独被绑在铁轨上的人是一名伟大的科学家,他的研究现在以及日后对世界会有巨大的贡献,能拯救无数人的生命?
如果那五个被绑在同一个铁轨上的人其实并不是那么无辜,他们是罪犯,是杀人犯,他们死有余辜?"
"我——!"
"如果再把这个难题升级呢?"不等伊莱恩回应,军团又说,"如果那名伟大的科学家其实也是疯狂科学家,他害死了无数人,用人体实验的结果来为世界带来变革?
如果那五名罪犯之中其实夹杂着一两位无辜陷入冤狱之人,他们甚至是好人,只是被坏人冤枉了呢?阁下又该如何选择?"
"喂喂,够了,让我说话啊!"伊莱恩有点生气了。
"抱歉。请回答。"
"我什么都不做。"伊莱恩答道,"如果我拥有力量的话,我会用我的力量去拦截那辆电车,把所有人救下来。如果我没有力量,我会谁都不救,转身离开,让电车驶向某一方。不管怎样,我都不会、无权左右他人的生死,这种选择对我来说太沉重了,它不是我应该背负的。"
"感兴趣。这是相当有意思的观点。"
"生命本身没有轻重之分。没有人能决定谁的性命更重要,谁的命不重要。并不是人数的多少就能决定生命的轻重,那种少数服从多数的逻辑在人命面前根本不适用。也不能看人们曾经做过多少好事和坏事来判断他们值不值得活着,因为没有人知道未来会发生什么。
我们毕竟只是人,不是神。人其实并没有资格去审判别人。"
"疑惑。但是阁下最近没少杀坏人。那些行为不是【审判】吗?"
"我杀那群坏蛋是因为他们罪有应得,是因为我想杀他们。我并不打算扮演神明的角色去审判他人。我只是个复仇者。我杀死那些坏蛋只是率性而为,我会背负这份罪孽,但是我没打算审判他们。"
"疑惑。不得不说,阁下这说法有点……"军团说了一半就没说下去。
"伪善?"伊莱恩自己戳破。
魔像点了点头。
"也许这真的是伪善吧。也许像洛里安那样坚持谁都不杀,才是人间正道吧。但我不会为自己的行为后悔哦。
有些坏蛋,你不杀他们的话,他们会害死更多的人——我真正关心的那些人。
一边是十恶不赦的坏蛋,另一边是我爱着的那些人们。把他们的生命放在天平上衡量,我每一次都会选择后者。"
军团沉默了一下。
"这是电车难题的变种。"它说,"铁轨的另一边掺杂了阁下的亲友,而阁下想保护亲友,便把电车导向了另一边。这是掺杂了私心的选择。"
"人总是带有私心的。不存在大公无私,对任何人都一视同仁的人。你说的【良心】,不过也是一种变相的【私心】罢了。我说的不对吗?"
军团再沉默了一下。
"确定。阁下的话……非常有启发性。已更新本系统的基本逻辑。"
伊莱恩若有所思地看着军团。
"军团,老实地告诉我。你打算像人那样拥有心灵吗?"
"否定。本系统只是一个人工智能,无论怎么调整逻辑变量,最后都无法拥有和人类完全一样的逻辑思维。"
"……我知道你总有一天会拥有像人一样的心灵。但如果你拥有了人心,说不定你会变得自私,你会变成与我们敌对的大坏蛋。你就好好地思考【良心】这个词的真正意义,体会它所带来的沉重吧。等你真正拥有了人心,而且没有变成我们的敌人时,我会考虑和你成为朋友。"
"疑惑。【朋友】么。和机械成为朋友什么的……"
老魔像的眼中突然闪烁过一阵智慧的光辉。
"感兴趣。这真的……非常有启发性。"它说。它的语调多了轻微的起伏,变得耐人寻味。
离开了休息室,伊莱恩到外面呼吸一点新鲜空气,刚好看见红狼少年正在跟那个小胖子玩。伊莱恩才想起其实伊奥也是十几岁的样子,和铁诺的年纪相差不大。两个年龄相近的孩子能在一起玩,也是理所当然了。
然后伊莱恩就看到铁诺在空地上拿着根小木棍戳来戳去,仿佛在和伊奥练习剑术。他马上就被吓得冷汗直冒。
"悠、悠着点,悠着点!你、你刚动完手术就在那里跑跑跳跳是、是要找死吗?!要是跌倒了、让手术的缝合处裂开了怎、怎么办啊?!"
"欸?这点小运动不算什么啦!人家感觉全身充满了力量啊!"
蠢蛋。伊莱恩拉长了脸:"伊、伊奥,你为什么不阻止他,反而跟他一起胡闹起来了?"
"欸?可是他就像追逐自己尾巴的小狗一样,根本停不下来啊。我现在已经算是在阻止他了。"伊奥辩解道,"至少有在减少他的运动量,不是吗。"
伊莱恩满脸愠怒地看着正在狡辩的小狼。
"到、到底怎么做才能让你们老实下来呢?我、我请你们吃好吃的行不行?城里应该还有一些能够使用的甜品店。"
"可是店主应该都跑路了?有点钱的人基本都跑了?"伊奥反问道。
"那、那个不是问题。设、设备和食材都在,那么重的东西他们带不跑。只要有设备有食材,军团就能按照食谱把甜点做出来。"
"欸?到头来是我们自己做吃的啊——"
"是、是军团做,没说让你动手做。"
"如果不是有大厨动手给我们做甜点,那就没意思了啦!"铁诺吐槽道,"机器人做的食物没有灵魂的!"
"没、没有灵魂什么鬼,你吃个甜点还要把灵魂吃下去吗?你、你是魔鬼撒旦吗,那么喜欢吃灵魂?"伊莱恩疯狂吐槽,"别、别在这里胡闹了,我们出发吧。赶、赶快填饱你们的肚子,然后你给我找个地方好好躺着,老实点儿!麻.醉药的药效很快就会结束,届时你会开始觉得疼痛的,不可能完全不疼的。"
"那个回头再说嘛~"
伊莱恩又白了小胖子一眼。
"如果大哥哥你这样求我的话,我也不是不可以跟你去吃甜品啦。但是吃完东西之后你得陪我去一个地方哦。"
"哪、哪里?"