现在亚当将“后事”这么一安排,米兰达将面临牢狱之灾,而男主人公则“一夜回到解放前”,巨额财富即刻清零。他向亚当抗议,说“这些钱是我的”,但亚当告诉他们“后事”安排时,米兰达的诬陷罪证已经被交给警方,而向慈善机构的捐款也已经完成,亚当其实只是将结果通知男女主人公而已。
在恐惧和怨恨交织的情绪下,男主人公用锤子砸死了亚当。其实不用他如此加害,亚当本来也已经打算“告别人世”了。
麦克尤恩自始至终没有在小说中告诉读者那些亚当夏娃机器人为何要自杀,但是从男女主人公身边的亚当安排的“后事”来看,原因是可以推测的:
出厂之前,这些机器人被植入了某些最“底层”的道德戒律(表层的性格特征可以由用户在开始启用时自行设定——男主人公和米兰达共同设定了身边亚当的参数),这些道德戒律的内容一定是关于“诚实”、“公正”、“守法”等等的“好孩子”戒律,而当机器人目睹社会上的尔虞我诈人欲横流无穷暗黑,始则难以理解,最终难以接受,于是一朵朵“白莲花”纷纷决定结束自己的“生命”,让自己从这个浊世的淤泥中解脱出来。
其实上面这个故事,只要剥离了机器人这层科幻包装,就是现实社会中可以见到的“好孩子”因幻灭而自杀逃避的故事。
我们应该给机器人植入什么戒律? 到了这里,麦克尤恩的思考开始有一点深度了。
小说中的亚当夏娃被植入了好孩子白莲花的道德戒律,当然会认为米兰达为替闺蜜复仇而诬陷那个男青年是妨碍了司法公正,诬陷成功则破坏了“程序正义”;而亚当替男主人公赚的那些钱,很可能是不义之财(鬼知道亚当是用什么方法赚到钱的,会不会是黑进别人账户了?)。要是我们觉得这样的道德戒律太迂腐了,太不近人情了,那我们能不能质疑植入这样的道德戒律的合理性?
一个“镜像”的选项显然是:出厂时植入“人不为己天诛地灭”、“宁教我负天下人不教天下人负我”这样的戒律,这样的“恶之花”倒是肯定不会为见到现实社会中的丑陋而难过,相反会过得如鱼得水,最终恶贯满盈。但这样的机器人谁敢买呢?
另一个选项,是植入“绝对服从主人”的戒律,这样的机器人,圣人买了则成圣徒,恶人买了则成帮凶,最后必“成长”为大奸大恶祸害人间而后已。
三种选项都无万全,问题显然没有标准答案。麦克尤恩将小说取名《我这样的机器》,初看似乎不甚确切,但想到这里却感觉还是有深意的。

Machines Like Me 《我这样的机器》 [英]伊恩·麦克尤恩 著 周小进 译 上海译文出版社
1982年,平行世界的英国伦敦,彼时人工智能研究已经远远超过了我们当前的发展水平。在撒切尔夫人的领导下,英国在马岛战争中落败,举国哗然之际托尼?本恩当选为英国首相。“人工智能之父”图灵也没有自杀,麦克尤恩给了图灵他应得的生命,而非受到审判、监禁、自杀。图灵得享高寿,活在世人的尊崇之中,他的作品创造了技术奇迹。
与此同时,32岁的伦敦人查理开始了两段新的关系:一,他爱上了楼上的邻居米兰达;二,他用继承的遗产购买了一款新型人形机器人“亚当”。“亚当”拥有以假乱真的智能和外观,能够完成逼真又不失自然的动作和表情变化。在米兰达的帮助下,查理重塑了“亚当”的性格,于是一组奇怪的三角关系渐渐形成……事情也慢慢开始失控。
麦克尤恩在小说中探讨了人类与人工智能的区别,究竟是什么使我们成为人类——我们外在的行为还是内在的生命?机器人能够明白人类的心吗?对于那些人类无法掌控的技术,这部小说将带给读者深入的思考。
|