尽管阿西莫夫(Isaac Asimov)“机器人三法则”在机器人伦理讨论中路人皆知,但“美国机器人文化”这种说法对学界来说还比较陌生。谈及西方早期机器人文化,学界经常会讨论捷克戏剧《罗素姆万能机器人》(Rossum’s Universal Robots,1920)或德国电影《大都会》(Metropolis,1926)等经典作品,或去追溯德国浪漫派作家E.T.A.霍夫曼(Ernst Theodor Amadeus Hoffmann)的小说《沙人》(Der Sandmann,1816)和法国作家利尔·亚当(l’Isle-Adam)的长篇小说《未来夏娃》(Metropolis,1886)。但随着相关研究的推进,美国早期机器人想象和叙事的独特性和学术价值开始显现出来。在19世纪的欧美机器人叙事中,《沙人》和《未来夏娃》是西欧浪漫派式的女性机器人叙事,而美国早期机器人叙事的起点也深受欧洲传统仿人自动机的影响(参见刘永谋、李尉博《自动机、机器人、赛博格:美国文化中机器人的三种想象》第一部分)。但从《大草原上的蒸汽人》(The Steam Man of the Prairies,1868)开始,美国早期机器人叙事开始裹挟工业革命等时代特色(参见黄亚菲《西方早期类人机器人想象的“蒸汽机时代”——从爱德华·埃利斯〈大草原上的蒸汽人〉谈起》)。同时,考虑到《莫克森的主人》(Moxon’s Master)中对智能和弑主机器的讨论,美国19世纪早期机器人想象足以摆脱欧陆传统的直接影响。它是时代精神和想象力的结晶,同时也是社会文化和群体心理的多棱镜。阿西莫夫《转圈》(Runaround,1942)、《双百人》(The Bicentennial Man,1976)等机器人叙事名篇的出现,让美国机器人文化大放异彩,尤其是在与机器人相关的伦理领域(关于《双百人》的研究参见荆祎澜《论〈双百人〉中机器人安德鲁“为人”的两种进路》)。20世纪机器人叙事随之进入黄金时代,机器人叙事也进入“美国时期”。本期“机器人人文研究”专栏三篇论文从机器人想象史和人机关系等角度深入讨论了美国机器人想象和叙事,大幅提高了美国机器人文化研究的广度和深度,值得机器人人文和技术人文研究学界的重点关注。
——主持人广州外语外贸大学西方语言文化学院副教授程林
机器人安德鲁是艾萨克·阿西莫夫科幻小说《双百人》(The Bicentennial Man)中的主人公。该作品于1977年获雨果奖,并于1999年被改编为电影《机器管家》(Bicentennial Man),不过,它在受到称赞的同时也面临着一些批评,如被认为是空洞的人文主义且没有展现任何智能,但不可否认的是它也常被作为哲学、伦理学、神学等严肃的批判性研究的主题 。而本文将就安德鲁成为人的诸多尝试以探讨机器人“何以为人”这一问题。
《双百人》讲述了拥有自由意识的机器人安德鲁尝试成为人的故事。这一过程并不顺利,他作为有意识的机器人,为人类所恐惧并被敌视。他在小说中追求了自由与不被伤害的权利,但这都没有使他为人类所认可。他或许可以成为道德主体、法律主体,但就是无法被当作人。安德鲁后来意识到,他无法为人的原因是其不朽的机械躯体。于是安德鲁利用技术手段扩大了人的定义,但最终使他得以为人的却是生命的终止。驱使安德鲁成为人的并不是他理性的需求而是情感上的非理性需求。正如其弥留之际紧随“人”的意识之后的是小小姐一样——他希望与亲近的人变得一样。而他的这种选择,也正是其拥有自由意识的体现。
一、安德鲁的困境与机遇
(一)困境:人类对机器人的恐惧
小说中两次提到人类对机器人的恐惧。一次是安德鲁被两个人类要求脱衣服并肢解自己时,一次是安德鲁提起诉讼要求法院承认机器人权利时。人类的恐惧是安德鲁被区别对待并难以成为人的重要原因。在早期的机器人形象中,机器人总是以奴仆、反叛者、令人恐惑的“它者”形象出现,其背后是人类对于机器人的复杂情感,如“弗兰肯斯坦”情结。
对科学及其创造物的恐惧一直是科幻小说的重要表达之一。这种恐惧既指向人类生存的外部环境,又指向人类自身,其中包含着对自然挑战的不安与对未来的担忧,这在第一部科幻小说《弗兰肯斯坦》(Frankenstein)中便可见一斑。在这部以人造生命为主角的悲剧中,“怪物”突破了人类自然的疆界,是“生命体和非自然物难以容忍的悖论”,从而招致迫害,而其创造者盗火的现代“普罗米修斯”也走向毁灭,双方以一种同归于尽的形式平息彼此的怨恨与同情,科学也成就了新时代“亵渎神明的恐怖故事”,而借“人造人”角色来探讨人性也成为科幻的重要主题。
随着科学的发展,“劳动”被表征为“机器人科学”,人造人的幻想转向机械制造。“Robot”一词首次出现于剧作家卡雷尔·恰佩克的《罗素姆万能机器人》(Rossum’s Universal Robots)中。该词取自捷克语“robotnik”或“robota”,前者有奴隶、工人之意,后者则为单调沉闷的苦工、奴役的境况之意。
于是机器人形象成为人类欲望与科学文化的投射。由于这些形象带有“服务性”“满足性”等特点,机器人便被置于较低的地位,因为在权力文化中,服务、满足他人总是低人一等,意味着妥协、不自由与被掌控。机器人也因此成为低地位群体的隐喻。但人类在道德上又无法容忍“奴隶”的存在,道德与欲望的矛盾难免引发冲突。
人类对机器人还有其他幻想。与上述低于人的地位相对的是人类对机器人“超人”能力的希冀。一部分人期望机器人能够超越人类的思维极限以更加接近世界的真理。他们无法接受人类群体的缺陷与恶,而崇拜至高的理性与最完满的善,而这种“善”也包含着完美的躯体。他们找到了实现柏拉图式理念世界的最佳载体,并将之作为人类进化的一环,开始有意识或无意识地制造“超人”或说是神。安妮·福斯特(Anne Foerst)在《机器上帝》(God in the Machine)中认为,人类面对智能机器时会同时感到恐惧与被吸引,如同我们对神的体验一样,而科幻小说常将技术神圣化,并模糊了两者之间的界限。
于是,低人的地位与超人的能力在机器人身上矛盾共存,这势必造成一些改变。阿西莫夫认为“取代”是人类对机器人感到恐惧的本质,因其是死亡这一“不可逆变化”带来的耻辱,“就像犹太拉比洛的人偶、弗兰肯斯坦博士创造的怪物……机器也是人类智慧的产物,它最终也将取代我们”。人类用道德来缓解对他人的怀疑与恐惧,而阿西莫夫在科幻小说中提出的“机器人三大法则”,是使机器人“道德化”的设想,成为保证人类安全的重要设定,但遵循理性意志的绝对准则也难以从根源上解决问题,因其“与实际人类行为体现的模糊不清的伦理学大不相同”。
在《……汝竟顾念他》(……That Thou Art Mindful of Him)中,机器人乔治第十认为人类只是众多生命形态中的一种,并与乔治第九进行对话以观照自身。它们从机器人的角度对“三大法则”进行解构,得出机器人比人类更像“人类”,因而应受到保护并主宰世界的论断。它们的推理基于这样的理性判断:当面对多个人类时,无论是服从还是保护都应选择心智、品格、学识上最优的人类,而它们比人类更像人类,所以赋予了自身主宰者的地位。此种看似绝对的理性有时是可怕的。
因此,即使有“理性准则”的约束,地位不对等下的力量失衡还是难逃悲剧。但阿西莫夫有其他方案,“还有一些关于机器人的想法是,机器人的发展不会走向超人的方向,而是更精细、更动人,向着人性化的方向发展”。于是,安德鲁的“非理性”成为他摆脱人类恐惧这一困境的机遇。
(二)机遇:非理性的机器人
机器人像是一个对照物,使人类得以反思自身。人类常以理性区分自身与动物,但机器人使人们意识到,使人之为人的,并不是理性,而是非理性,“人之为人的特性就在于他的本性的丰富性、微妙性、多样性和多面性”,而这些特性无法用逻辑加以分析。人类之所以可以与机器相区分,正是因为人类没有绝对理性,而是常常出现“差错”,“差错”在道德或其他价值体系有着别样意义。这也是人类在自由意识下做出选择的体现。对于人类来说,最理性的选择不一定是最好的选择。
与其他机器人不同的是,安德鲁并没有严格设定好的程序,而是拥有一颗像人类一样具有不确定性的正电子脑,“设计正子径路的相关数学太过复杂,顶多只能允许近似解,因此我的能力不是完全可预测的”。这意味着,安德鲁并不是完全理性的,并具备了非理性的基础。非理性因素是个体难以预测的特性,也是个体间的差异所在,因其“带来个体思维及其结果的不确定性”。
作为人类的老爷似乎更喜欢有着不确定性的安德鲁:“新的机器人不会起变化。他们专门执行设定好的任务,从不会走岔。我比较喜欢你这样子。”正因为安德鲁拥有了那些人类才具有的微妙、丰富与多样性,才能获得自由与为人的权利。而安德鲁自主选择结束自己的生命以希望变得与人一样,就是一种非理性的行为,因为在绝对理性下,自由意志并没有安放之地。以自身的死亡来结束他人的恐惧,这对安德鲁来说并不是个理性的选择,却是人性可以理解的选择,也最终使人类的认可与愧疚同时出现。
与其他科幻作品着力于刻画机器人的强与人类的弱不同,阿西莫夫笔下的安德鲁更展现了人性的温情。这部作品鲜少描述人类与机器人的具体冲突,更多的是安德鲁对自我的探索,也是人类对技术塑造自身的思考隐喻。阿西莫夫没有否定什么,只是提出了一种可能性。事实上,在阿西莫夫的诸多故事中,人类一直在接受与拒绝机器人之间摇摆不定,他们渴望机器人的帮助,又对机器人感到害怕,这一主题也贯穿于其短篇小说集《我,机器人》(I,Robot)之中 。(文章选摘自《科普创作评论》2022年第4期,作者系荆祎澜,北京科技大学马克思主义学院硕士研究生,研究方向为技术哲学。)