人机伦理秩序的建构：《我，机器人》的文学伦理学解读
时间：2023-06-25 21:45:03 来源：雅意学习网 本文已影响 人 
宋 皓
（宿州学院外国语学院 安徽宿州 234000）
阿西莫夫通过《机器人》系列小说有意识地建构了一个未来人类社会模型，从人类的立场出发设定了机器人学三定律并以此维护人类的福祉。但是由于人类自身存在的种种缺陷和机器人技术的迅猛发展，机器人的伦理身份不断发生质的变化：从早期的“类人”存在到后期的“超人”存在；
从早期的顺从仆人到后期的先知守护者；
其自我意识的增强带来复杂的伦理意识，伴随着伦理身份的变化，机器人会自主的产生更多不可思议的、“失控的”伦理选择。本文聚焦《小机》《转圈圈》和《理性》这三个在人机伦理秩序建构过程中具有里程碑意义的科幻故事，逐一解析不同时代伦理环境中机器人被赋予的不同伦理身份；
在机器人学三定律的约束下机器人产生了不同的伦理意识并做出了相应的伦理选择。这一过程中，新型的伦理秩序缓缓建构。
《小机》的故事发生在20世纪90年代，威斯顿先生给女儿葛洛莉雅买了昂贵的无声保姆机器人Robbie后，机器人成了小姑娘最好的玩伴和保姆。“小机”的忠诚陪伴使葛洛莉雅无比依恋，这种“不正常”的人机感情引起来威斯顿太太的怀疑和厌恶，称之为可怕的机器并坚持要送走保姆机器人使女儿可以回归“正常的”生活。但是失去机器人贴心陪伴的葛洛莉雅一直闷闷不乐，缺乏激情。数月后，温斯顿一家在纽约参观美国机器人公司工厂时，与玩伴机器人的意外重逢使葛洛莉雅激动地冲过去而忽视了驶来的牵引车。机器人第一定律规定“机器人不能伤害人类个体或看着人类被伤害而袖手不管”。[1]（P44）危急时刻在第一定律的约束下，机器人“勇敢地”救起了葛洛莉雅，忠诚的行为赢得了威斯顿一家的感激，小机器人得以长久的陪伴在葛洛莉雅身边。
在文学批评中，文学伦理学批评注重对人物伦理身份的分析。在阅读文学作品的过程中，我们会发现几乎所有伦理问题的产生往往都同伦理身份相关。[2]（P21）机器人诞生初期的伦理环境非常简单，机器人承担了幼年人类保姆和助手的伦理身份，人与机器人之间是类似与主人与忠诚奴隶一般简单的伦理关系，因此阿西莫夫从人类的伦理立场出发设定了机器人学第一定律，强调机器人对人类的服从，以维护人类生命作为至高无上的伦理准则。机器人保姆基于第一定律这一根本伦理准则，正子脑产生了不惜代价救助主人的伦理意识并断然作出了伦理选择。儿童对于机器人的喜爱和依恋、成人对于机器人的怀疑和厌恶反映了机器人在人类社会中经历的接受、怀疑至重新接受的认识过程。在这一过程中，第一定律及其产生的伦理准则确立了机器人的“无害性”，这也正是机器人得以在人类社会中长期存在的伦理基础，反之，如果机器人如同弗兰肯斯坦一般可以肆意妄为地威胁人类的生存，人类则会明确无误地出于恐惧而将其扼杀在初期。
《转圈圈》中已经开发出具备语言互动功能的机器人，在未来世界中应用于水星采矿。工程师多诺凡和鲍尔带着名为速必敌的实验型机器人SPD-13来到水星却发现机器人在执行开采硒矿时没有正确地执行第二定律[3]的服从要求，而是在硒矿的外围转起了圈圈。这种诡异的不服从行为引起来工程师的兴趣，经过探索发现硒矿周围存在足以伤害机器人自身的一氧化碳。服从命令意味着自我伤害违背第三定律[3]，不服从命令则违背第二定律，两难的情况下机器人只能在硒矿附近转起了圈圈，以此来实现第二定律和第三定律的平衡。为了恢复运作，工程师亲临险境暴露在恶劣的环境之下，在强大的第一定律支配下机器人速必敌快速行动营救人类脱离了转圈圈的困境。之后在加强型命令“不计一切代价取回硒来”的支配下顺利的完成了采矿任务。[1]（P53）
人与机器人在更加复杂多变的伦理环境之中需要面对许多未知因素的挑战，原本正常的指令也会面对失效的窘境。人类的认识和能力在提升，机器人的技术进步则更加迅猛，随之而来的是机器人的自我意识不断增强。机器人速必敌在执行采矿任务时面临着一个伦理冲突：执行命令还是自我伤害？伦理意识的冲突导致其无法确定有效地做出伦理选择，只能原地转圈不断寻找采矿和自保之间的平衡距离而不是盲目执行采矿任务。最终在至高无上的第一定律的支配下做出了有利于人类的伦理选择。自我意识的增强和自我保护的机制可以使机器人胜任更多场景的工作，在新的伦理环境中作出更加理性的判断而不是盲目遵从人类的指令。同时，也对人类自身的认知水平和能力提出了更高的要求。
第二和第三定律规定的伦理准则赋予了机器人更大的自我意识和更多的自主权，人工智能的发展使得机器人在更多领域拥有超越人类的才干，也涌现出更多的伦理困惑和伦理冲突。《理性》中的机器人技术有了长足的进步，五号太阳站的QT-1型机器人更加聪明甚至出现了理性怀疑的特征，被工程师多诺凡和鲍尔称为“小可爱”。被组装激活后强烈的好奇心使机器人对自身的存在也产生了怀疑，这种强烈的理性怀疑使得其开始关注古希腊伟大的思想家、哲学家柏拉图提出的哲学命题：“我是谁？我从哪里来？我要到哪里去？”小可爱拒绝相信自己是被人类创造出来的，因为“人类的组成材料软弱无力，缺乏吃醒醒和强度，能量则来自有机物质的低效率氧化作用。”[1]（P63）机器人眼中的人类成了几位脆弱的劣等生物，对外界环境的适应性和容忍度极差。根据理性的思考，机器人得出结论：只有强者能创造弱者，人类只不过是造物主的仆人。小可爱拒绝相信内存中的知识以及看到的表层事物，也拒绝服从人类的指令。基于机器人比人类优秀的认知，小可爱把两位人类工程师锁进了房间，自己承担起在恐怖的电子风暴中操作太阳站的职责，并轻松而出色地完成了任务并保护了地球上的人类。在机器人的精确操作下，太空站的整条能量束始终保持稳定，这是人类仅凭肉眼和计算难以企及的。看似完全失效的第二定律后潜藏的是第一定律被完美的遵守，机器人在面对电子风暴时为了保护地球上的人类而拒绝服从工程师的指令，接管了太阳能量站。之后的人类不得不接受机器在精确操作处理领域远优于人类的事实而放弃了管理权。
面对复杂多变的环境时，人类经常被理性思维或者感性判断所困扰；
文学伦理学批评提出了斯芬克斯因子以此证明人类的伦理选择就是在理性因素和非理性因素的碰撞中产生的。[4]纵览人类的历史，非理性的战争、屠杀、污染比比皆是，人类未必能做出正确而理性的判断。当机器人意识到这一点时人机关系就发生了质的变化，第一定律仅仅规定了机器人不能伤害人类个体或看着人类被伤害而袖手不管，机器人对于如何定义“伤害”和“不管”有了更多的自主意识，出于服从至高无上的第一定律而主动承担了人类守护者的伦理身份，出于保护人类的伦理意识而采取为人类纠偏的伦理选择。但这也正是人工智能和机器人技术发展的可怕之处：为了人类的福祉而违背人类的意志。
之后的短篇故事《抓兔子》（Catch That Rabbit,1944）、《骗子》（Liar!,1941）无不体现“自我觉醒”这一主题：压力过大从而导致精神失常的采矿机器人大卫和智力碾压诸多科学家的RB机器人厄比都具备更强烈的自我意识让人类几乎束手无策。机器人开始基于自身的立场对三大定律产生理解、判断和执行；
基础的伦理准则开始动摇，随着而来的是人类对机器人的伦理束缚也将逐渐削弱。
阿西莫夫已然认识到机器人的潜在威胁，在后期作品把机器人定义为服从三定律的超然存在，甚至明确指出：所有依赖人工智能的文明都必定会衰亡，所以未来能够长久发展的文明都是立法严禁研发人工智能的。即便人工智能没学坏，没失控，但是这样的人工智能是会毁灭人类的，因为这样的人工智能将会消解我们人类生存的意义。若假设人工智能对人类是完全忠诚的，人类的一切活动可通过支配它而完成。一旦有了这样的人工智能，人类很快就会变成一个寄生虫，人类将失去人生意义，成为行尸走肉，在体能和智能方面将全面快速衰退。每一个个体都变得没有生活意义的时候，整个群体就是注定要灭亡的。[5]然而，人类不能因为对于未来心存恐惧而放弃发展和探索，包括机器人系列在内的种种科幻作品都在给人类的发展提供启发，机器人技术在进步，伦理准则也不能固化，不管科幻小说的结局如何，都是在给当代的人类提供教诲，相信人类必定有勇气和能力在阿西莫夫机器人学三定律伦理准则的基础之上形成与时俱进的伦理准则并以此维护自身的伦理身份和存在意义。
猜你喜欢定律准则伦理《心之死》的趣味与伦理焦虑英美文学研究论丛(2022年1期)2022-10-26具非线性中立项的二阶延迟微分方程的Philos型准则数学物理学报(2020年1期)2020-04-21护生眼中的伦理修养活力(2019年19期)2020-01-06多一盎司定律和多一圈定律中学生数理化·八年级物理人教版(2019年9期)2019-11-25倒霉定律儿童故事画报·智力大王(2019年5期)2019-07-14基于Canny振荡抑制准则的改进匹配滤波器系统工程与电子技术(2016年7期)2016-08-21一图读懂《中国共产党廉洁自律准则》浙江共产党员(2015年11期)2015-05-23医改莫忘构建伦理新机制中国卫生(2014年6期)2014-11-10耐人寻味的定律读者·校园版(2014年7期)2014-05-14混凝土强度准则(破坏准则)在水利工程中的应用湖南水利水电(2014年2期)2014-02-27
