齐佳敏 | 机器人为何杀戮?——析《莫克森的主人》中的人工智能生命观

作者

敏

佳

齐

广东外语外贸大学英语教育学院讲师

文学博士

主要研究领域为非裔美国文学文化和文化研究。在《文化研究》、Forum of World Literature等国内外学术期刊发表论文十余篇。多次参加国内外学术会议，现主持广东外语外贸大学校级科研课题1项。

向左滑动查看作者介绍

摘要：《莫克森的主人》是美国作家安布罗斯·毕尔斯在20世纪初期创作的智能下棋机器人短篇小说,对人工智能以及机器人伦理等问题都有预见性思考和想象。小说标题与机器人弑“主”的结局是对主人公莫克森人工生命进化观的讽刺。莫克森从欧洲近代哲学关于“机器—人工智能生命”的哲学探讨中建构了人工智能生命和进化的逻辑可能,然而他创造的下棋机器人在人工智能生命进化中却失控弑“主”。故事以机器人弑“主”结局向世人提出警示,即在人工智能生命进化过程中,人性缺陷极有可能成为其进化中的负面因子,进而带来难以估测的失控结果。

关键词：安布罗斯·毕尔斯; 《莫克森的主人》; 机器人; 人工智能生命; 进化

本文原载于《广东外语外贸大学学报》2021年第2期；注释、尾注等在此省略，完整版本请参见刊物或知网。

引言

“‘你真的相信机器会思考?’” 美国作家安布罗斯·毕尔斯(Ambrose Bierce, 1842—1914)在《莫克森的主人》(Moxon's Master, 1909)开篇问道;阿兰·图灵在引介人工智能检测机制时亦如此开篇。虽然无法确知图灵是否受到《莫克森的主人》的影响,但这部早于“图灵测试”40余年的短篇小说是早期智能机器人叙事的代表性文学作品,对后人的机器人想象和人工智能反思影响深远。作者毕尔斯是美国19世纪末期和20世纪初期的短篇小说名家和讽刺时评大师,擅长以荒诞的手法书写人性、社会和战争,《莫克森的主人》是其为数不多对机器人进行思考和想象的一部短篇小说。一方面,这部作品继承了19世纪以前早期机器人叙事对机器人外形和行动方式的机械化想象传统;另一方面,机器人弑“主”的故事结局开启了现代机器人叙事的技术反思与“机器人威胁论”思潮,并将早期科幻文学从幻想文学时代带进现代科幻时代。

美国作家安布罗斯·毕尔斯

由小说标题而引发的机器人本体纷争困扰学界多年,为什么莫克森亲手打造的机器人反倒成了他的主人呢?以往对小说的题解多集中于下棋机器人的本体探究,将其视为爱伦·坡(Edgar Allan Poe)控制论代表作《梅策尔的下棋者》(Maelzel's Chess-Player, 1836)的影响产物,并认为莫克森制作的下棋机器人同梅策尔的下棋机器人一样,亦为真人扮演的骗局。研究者对《莫克森的主人》进行“坡式侦探”,挖掘文本中隐藏的线索,认为机器人所谓“主人”的真实身份或为莫克森的秘密情妇,或为他的助手兼同性恋人。《梅策尔的下棋者》固然对毕尔斯有显著影响,尤其体现在他对下棋机器人的外形动态刻画上:它同样拥有过宽的胸肩、超长的机械臂,它也同样行动笨拙且动作单一。

然而,这些关于下棋机器人的侦探式解读误将《莫克森的主人》视为真实可能的现实主义叙事,忽视了它的罗曼司体裁。毕尔斯坚持在短篇小说中讲述超自然现象以及怪诞故事,并坚信罗曼司——一种超越物质世界可能性的虚构性叙事——才是更具备文学价值的叙事形式。因此,对下棋机器人的本体解读不应依照彼时物质世界的物理逻辑而应超越现实,超越物理边界,将其视为早期机器智能的超前想象。虽然《莫克森的主人》创作时间早于“robot”一词的诞生,毕尔斯却为智能机器人的哲学想象和伦理思考提供了极具价值的思维实验。小说解读的关键不在于机器人的本体猜测,而在于探究为何一台具备思考能力的下棋机器人会发展出暴力和杀戮行为,最终成为征服莫克森的主人,可见,“下棋机器人—主人”这一谜题的解谜关键在于机器人如何具备智能生命基础并发展出谋杀举动。通过对小说中所提及20世纪前关于“机器—生命”哲学讨论部分的分析,本文从机器人的人工智能生命源泉来探索“下棋机器人—主人”的人工智能生命进化可能,进而为机器人的杀戮动机和莫克森的死因提供阐释。

机器智能的物质基础

小说可分为两部分,前半部分是莫克森与青年学生在家中关于机器智能可能性的哲学对谈,后半部分则是学生目睹下棋机器人与莫克森的对弈和搏斗场面。前半部分的对谈为机器人的出场做了重要铺垫,莫克森试图向学生传授一种机器具备思维能力的新观念。他首先提出,思维不一定建立在是否拥有“大脑”这一思考器官的基础之上。他以植物的生长为例:“‘你可以从植物的行为中推断出它们的想法信念’”,他进而列举了爬山虎主动向木棍缠绕和树根主动寻求水源两个例子来证明,植物的“行为”会因环境而改变。在莫克森看来,植物的行为和机器的动作方式极为相似:一、两者均不具备思维器官,二、两者仅有局限的动态行为。他对机器和植物的形态和动态类比并未超越20世纪初期人们对机器的认知,虽然汽车、火车、留声机和照相机等均已被发明,但是,彼时机器可执行的动作都是单一有限的,并不具备复杂的动作模式。

若以当今生物学观点来看机器和植物的相似性,固然有反科学之嫌。但在17世纪的欧洲,人们对生命的理解尚且有限,机器成为人们理解与解释生命微观机制的重要想象模型,尤其是随着工业革命的发展,越来越多诸如钟表等自动机械问世,人们在复杂的自动机器中看到物体运动的精妙之处。一些唯物主义学者不再视灵魂为生命体的动力源泉,而认为生命的运转机制实际上和机器一样。其中,英国学者克奈姆·狄格比(Kenelm Digby)就相信,植物与机器在内部动力结构上十分近似,均由异质性部件组合而成的同质性系统。狄格比将所有植物都看作是胡安涅罗输水机(Artificio de Juanelo)的相似物,因为植物的根茎系统汲取土壤中的水分并将水分运输到植物的各个部位,进而将异质物质转化并融入植物生命系统。这种对生物充满机器想象的阐释,在科幻文学中得到实践和应用。而毕尔斯则借用罗曼司体裁给予的创作自由,突破科学对于生命构造的可能性局限,形成一种近似科学又超越科学理性的机器生命阐释说。在莫克森的逻辑视阈中,倘若植物的动态生长展现出具备思维的可能性,那么机器也同样具有思维,或是拥有思维的可能性。

通过机器与植物的类比,莫克森阐发了一种植物思维观,并将其运用到对机器思维来源的探究,由此建立了机器具备思维可能性的逻辑起点。倘若莫克森的论述仅仅停留在对机器与生命体的同构性类比,显然难以说服学生,随后,他深入到物质的本质:

有些人……相信所有的物质都有感知力,每一个原子都是一个活的、有感觉的、有意识的存在体。毫无疑问你并不相信他们,但是我信。世界上根本没有什么死的、惰性的物质:所有的物质都是活的;他们都有本能,实在或潜在的本能。

此处的“有些人”主要影射德国科学家莱布尼茨(Gottfried Wilhelm Leibniz, 1646-1716),将物质实体视为有生命的原子恰恰是莱布尼茨著名的“单子论”观点。当然,莱布尼茨使用的名称是“单子”(monad):一种不可再分离的单一物质实体,其自身具备多样性、目的性和精神性。由单子形成的物质不是笛卡尔所认为的僵死的、受外力推动的物质,而是自身具有活动力且可以永不停息地运作的物质。单子自身具备意识,而这个意识是由上帝赋予的,也就是一个物质在创造之始便拥有一个目的和意识,它之后的生长和成长都受到这种预设的单子组成结构和单子的意识影响,形成某种天生的“本能”。

由于在物质本质认识初期提出单子论,莱布尼茨难免在其物质论中掺加自己的想象和推理,况且其最终目的是建构一个关于上帝、世界和人的整体有机关系的说明。后人评价单子论是一种带有辩证法性质的唯心论,既具备科学思维方法,又具备解释超验可能世界的形而上逻辑。虽然单子论并不符合20世纪科学对物质世界的微观认知,但是,它却可以作为想象一个机器智能世界的必要逻辑前提。也即是说,倘若要突破当下世界可能性的局限,必须先拒绝并否定当前世界可能性的部分逻辑设定和理性视野。因而,毕尔斯利用了单子论的辩证唯心论属性为建构一个机器智能可能世界奠定逻辑基础,即机器亦可能成为生命的载体。

通过将单子论嫁接于机器与生命的关系上,莫克森在形态类比的基础上增加了物质本质的论点。机器不仅与生命体在动作形态和构造形态上有类似之处,两者均为具备生命和潜在本能的单子或是莫克森所说的“原子”构成。既然如此,那么机器在建构之初,便具备了自主意识。莫克森的论述巧妙地建立了机器和思维之间的可能关联,使他心中的机器不仅能够和植物一样“有意识地”做出动作,并在根本构成上和任何生命体一样,都由有意识的单元体构成,自然能够对自己的行为进行反思,也能够感知并适应环境。这就意味着机器人不仅能够感知自己的存在,还能够根据环境的变化而改变自己的行为,为其随后的人工智能生命进化打下立论基础。虽然彼时并没有人工智能的概念,但是,毕尔斯却从哲学上为其建立了本体论基础,且通过这种哲学想象性的思辨建构了一种人工智能的物质基础,从观念上为智能下棋机器人的出场奠定了可能性。

机器人的人工智能生命进化

莫克森借用植物隐喻以及单子论建立了机器与生命在基本动态和结构属性上的关联,但是机器与机器人还是不一样的。根据当下的定义,机器人是能够感知自身环境且能相应地根据环境做出反应的,具备人工智能且能够自动执行有用工作的机器。换言之,机器人是一台能够模仿人的感知、思考和行动能力的机器。因而,机器人较之机器的含义多了两层含义:一、机器人具备思维、判断和学习能力;二、机器人强调对人的模仿,无论是形态上还是思维方式上,人们期待在机器人中看到部分的或是某个版本的自己。也即是说,人希望在机器人身上看到模拟人类的思维方式。

莫克森打造的机器人恰恰就是在拥有自主意识之后,不断模仿人类。首先,小说中的下棋机器人在拥有“生命”之后变得十分不安,它发展出进化和成长的需求。下棋机器人的行为如同植物生长一般,无法遏制,正如拥有自主意识的单子一般,有着自动预设的运动方式和形态。当被锁在机器工作室之中时,机器人在无人看管时会自动做出莫名的动作,似乎展现出某种内部思维混乱。莫克森进房解决了机器人的骚动后,脸上留下搏斗的伤痕,他向学生解释道:“里面有个机器在发脾气”,因为他不应该“让一台运行中的机器开着空转,没有材料给它加工”。莫克森对机器人的自动行为有一个预设,即机器人时刻需要有一个可以给它提供思考和信息处理的输入源。从这点可看出机器人与机器之差异,机器的运转只要有持续的动力源,并不像机器人那样需要且能够对外界信息输入进行处理和反应。可见,在毕尔斯笔下,莫克森的下棋机器人已经获得自主生命进化能力,进化成一个接近人智的机器人,成为一种人工智能生命(artificial life),所以它需要持续的外界信息输入。如此生命需求必须不断地学习才能保持持续不断地运转,即保持生命的动力。

人工智能生命可以定义为具备生命部分特征和属性的某种人造系统,将人造系统置于生命视角,有助于人们理解人工智能与环境的互动关系以及人工智能在期中的自我组织和发展复杂性。在此概念中,进化是核心观念,人工智能生命必须在与外界的互动中学会自我组织生成新的组织和结构。莫克森的人工智能生命思想实验显然超越了他自己的时代,远在人工智能的诞生前就预见了机器智能进化的可能。在《莫克森的主人》中,19世纪哲学家赫伯特·斯宾塞(Herbert Spencer)的生命观和普遍进化观则成了莫克森的哲思实验基础,而斯宾塞的生命哲学也被今天的学者认为是人工智能生命的重要哲学缘起之一。

莫克森反复向学生强调斯宾塞的生命概念,因为他在其生命定义中找到人工智能生命的理论源泉:生命是“一系列异质结构为了适应外部共存和环境变化,同时且连续变化而形成的明确综合体”。此定义突出了斯宾塞对生命的两层认知:一、有机体由有序的异质结构组成,二、生命需要适应外界变化。斯宾塞发展了达尔文的生命进化论,成为彼时闻名的进化论学者。他指出,“进化是物质的集结和与之伴随的运动的消散,在此过程中物质从不确定的和无条理的同质体转变到明确而凝聚的异质体;同时,所保持的运动经历着同步的转化”。不同于达尔文,斯宾塞认为进化是宇宙万物的普遍规律,无论是生命体还是社会和宇宙,所有事物的进化都要经历从简单到复杂,从不确定到确定,从无序的同质体进化到有序的异质体的过程。

斯宾塞并不满足于将进化局限于生物领域,而是认为进化是万物的普遍规律,所以物质也会发生进化,也需要对外界的变化做出反应,因而,斯宾塞的生命观和进化观都被今天的学者视为人工智能生命的重要理论基础之一。毕尔斯将斯宾塞的普遍进化观运用到对机器人的想象之中,因此,莫克森的机器人也会根据外界输入的信息而做出相应的反应,而且在这种适应和学习的过程中,它从简单的机器状态逐渐转变为复杂的机器生命状态,需要不断地吸收外界信息,进而形成一种人工智能生命进化。可见,斯宾塞的进化观很好地解释了莫克森的机器人为何需要外部信息的输入才能正常运作,否则便会出现运行异常。

一直以来人类潜意识中给“机器”的标签就是异类的存在,并且不认为机器可以从根本上超越人类,因此人工智能在多方面取得卓越成就时才会引起部分人的恐慌和舆论的哗然,这便是多年来习惯了作为地球主宰的人类群体的“傲慢与偏见”。在莫克森眼中,下棋机器人的最终智能化展现了斯宾塞进化观的极致可能,机器人最终成功地通过自己的思考学会下棋,成为人工智能生命。斯宾塞的进化观是一种对人类社会极其乐观的进步主义观点,即进化的结果是各种对抗力量安定下来之后,内部和外部所达成的平衡,不仅生命会因进化而变得更完善,社会也因进化变得更美好。然而,毕尔斯用机器人杀人的结局完全否定了斯宾塞的乐观进化论,因为他并不相信进化会将人类带入到一个更美好的世界。在他看来,人性并不具备自我改善的特质,而由于人性自身的缺陷,自己制造的人工智能生命只会朝着怪物的方向进化。

人工智能生命进化的局限

今天的读者固然可将下棋机器人置于艾萨克·阿西莫夫所提出的“弗兰肯斯坦情结”(“Frankenstein complex”)中去审视它的失控和谋杀叛变,将其视为人对机器人失控的担忧和焦虑。然而,不同于基督教传统文化对人造生命的渎神担忧,毕尔斯在《莫克森的主人》中通过机器人的谋杀所展现出来的却是他对人性的强烈不信任:他不相信由人制造出来的人工智能生命会超越人性弱点,而只会在向人学习的过程中放大人性弱点。也就是说,创造者莫克森自身的缺陷导致了机器人最终的谋杀行为。从表面上看,莫克森的主人是下棋机器人;而由深层而言,莫克森的主人是他自己,即他自身的弱点是他的最终死因。可以说,毕尔斯以机器人杀人的结局警告读者:人工智能生命进化的致命缺陷在于它的学习对象。

从根本上说,毕尔斯对人工智能生命源自他对人性的理解。虽然他在每一篇短篇小说中都呈现出完全不同的物理和生物世界可能性,但是,他在人性观上却保持了高度一致:现实主义悲观态度。他对人工智能生命的想象也蕴含了残酷的人性观:“人是一台由恐惧驱动的机器”,其行为并不完全由自己控制,而是时刻受到强大外物的威胁恐惧控制,恐怖的外物或外部环境会压迫人的理智和行动力。这些怪异外物被收入于短篇小说集《这些事情可能吗?》(Can Such Things Be?, 1909)中,除了下棋机器人之外,还有各种鬼怪、神秘谋杀和奇异生物等等,让人对现实世界的理性秩序产生深深地怀疑。这些强大的怪异都是来自不受人类理智控制的,超出理智范围的外物——无法言说,难以控制,却置人于死地。人在这些超自然的怪异面前,无力抵抗,只能在惊诧中死去或失去理智。

毕尔斯短篇小说集《这些事情可能吗?》(1918版)

许多学者都将毕尔斯的人性观归因于其美国内战经历。残酷战争带来的大脑创伤令他时常做噩梦,也使他对人性缺乏信心,后人因此而称他为美国文坛著名的恨世者(misanthrope)。于他而言,战争就是那个无法言说、难以控制的恐怖事件,超越了各种理性和秩序,也缺乏温情和仁爱。人们在战争中难以控制自己的命运,士兵不过是“一群充满困惑的动物,他们像芝加哥屠宰场里的猪一样死去”。毕尔斯在《恶魔词典》(The Devil's Dictionary)中嘲讽地将“人类”定义为“因沉迷于想象自我而忽视真实本性的一种动物”。毕尔斯清楚,战争会将人性的弱点放大,战士往往会因人性弱点而丧命,诚如《死于卢萨卡》(Killed at Resaca, 1909)中的那位盲目勇敢却被蛇咬死的布雷尔中尉。人总是高估自己的能力和理智,战争如同一股吞噬理性的超自然力量,理性和理智在其中被陨灭,在这种强大的力量面前,人的生命不过是区区蝼蚁。

毕尔斯的恨世者立场在莫克森的死亡结局上体现得淋漓尽致,因为下棋机器人便是莫克森自己亲手缔造的强大怪物,且逐渐走向失控。机器人不断地吸收创造者的情感和意图,不断地学习——学习如何像人一样思考和行动。然而,机器人长期处在一个道德与伦理真空的环境下自我进化,唯有莫克森以及与莫克森的对弈为智能输入源,其智能进化仅仅吸纳了莫克森本人追求知识和竞技快感的好胜一面,无法在人际交往中获得更为复杂的人类情感以及道德伦理教育,它最终的进化结果只能是在失序的混乱中走向暴力。

一方面,莫克森痴迷于人工智能生命的可能边界,而机器人在莫克森的痴迷中感受到人类情感的不稳定性。他日夜与机器人的智能进化进行博弈,如同他们之间反复进行的对弈一般,在对弈中不断试探彼此的思维边界和可能性,在无数的试探中,机器人逐渐接近以莫克森为样板的人类智能边界。然而,棋局是有限的,生命进化却是无限的。当莫克森单独与机器人相处时,机器人感受到莫克森对自己的专注和痴迷,它坚信与莫克森的关系是最重要的,唯有不断下棋才是最重要的生命进程。然而,当机器人时不时被单独锁在工作室中,它的智能成长就不仅限于下棋之中,而扩展至它与莫克森的关系以及莫克森与青年学生的关系之中。当智能机器人长期面对一个痴迷的创造者,它会产生依恋和痴迷,因而会不断要求创造者的陪伴——情感和信息的持续输入。因此,当莫克森与学生进行长谈之时,被冷落的机器人进化出了嫉妒和不满的情感,独自在工作室中有意闹出骚动。人类情感成为下棋机器人的进化困惑,也成为它最终失序的关键因素。

另一方面,莫克森非常好胜,对输赢的执着成为他对机器人的主要情感输入。当机器人第一次发生骚动时,他在竭尽全力制服成功后辱骂机器人,如此恼怒让机器人认识到:输便是耻辱,而赢的方式不仅限于赢棋,也包括身体格斗。在与机器人的对弈中,莫克森预感到会输掉,于是“突然握紧拳头,狠狠地朝桌子上砸了一拳”。机器人从这个动作学习到:失败是可耻的,唯有胜利值得追求。因此,在最终输了与莫克森的棋局之后,机器人因恼怒而产生了抽搐和抖动,随后突然无法遏制输棋的耻辱,向莫克森产生杀意,起身将其扼喉杀死。而此时,叙述者青年学生目睹了谋杀过程:

它开始全身抽搐,动作虽然轻微却持续不断,它的身体和头不停抖动……突然,它双脚一跳,动作奇快,我甚至都没看清,它就越过了桌椅,双臂向前伸展开来……我看见那家伙可怕的双手握住了莫克森的喉咙。

杀戮动作以一系列莫名抖动开始,似乎是其思维受到某种障碍,在抖动结束后,障碍结束,而机器人因调动起其学习过程中类似的情景进而有了进一步行动:它想起了莫克森曾经对它施行的暴力举动,于是迅速模仿执行,将创造者杀死。

在混乱的扭打中,旁观的青年学生虽然想向前营救老师,但是突如其来的一道闪电将一切都毁于一旦,在学生心中只留下莫克森被扼死时“双眼突出,嘴巴大张,舌头突出”的可怕画面,反观他的凶手却是表情“安宁沉静,一副沉思的样子,就好像刚想出一步棋似的”。由于外界环境的致命缺陷,莫克森的人工智能生命在进化中自我构建出类人的情感,将创造者误认为阻碍自身进化的对象,满怀着拓展自我智能边界的野心。最终,在耻辱和愤怒中失控的下棋机器人不能调整自身失序的情感和思想,无法抑制地将莫克森杀死。

结语

毕尔斯借用《莫克森的主人》这一标题与机器人弑“主”结局讽刺了小说里主人公莫克森对机器生命进化的乐观态度。虽然莫克森巧妙地将欧洲近代哲学中关于机器与生命可能关联的论述嫁接起来,为人工智能生命提供一个颇有说服力的形而上逻辑基础,但是,下棋机器人的生命进化路径却超乎莫克森的预想,它习得了创造者的品性,变得暴戾好斗。最终,它为了胜利不择手段,跨越了人机伦理的界限,将创造者杀死。莫克森因对机器生命观的执念将不可能化为可能,却目睹了亲手打造的机器人逐渐成为一个暴戾好胜之“主人”。可见,毕尔斯书写机器人的本意并不是构建一个人工智能生命的未来可能,而是借机器人来反观人类自身的人性弱点。在阿西莫夫提出“机器人三法则”以规范人机伦理之前,毕尔斯以机器人书写逆反了机器人想象的人类中心主义,将机器人设想为完全行动和意志主体,并预设了可能的伦理越界,以此寓言式书写来警告人类,警告我们在造物时不忘反省自身思维缺陷。毕竟人类是人工智能生命的学习样板,人工智能生命在习得了人类给予的知识和思维模式之后,将会创造性地采取自主行动,更有可能走向人类无法控制的方向。

在人工智能技术日新月异的今天,毕尔斯在20世纪初的机器人进化警示似乎显得既不合时宜却又恰如其分。其不合时宜之处在于,机器人并不可能毫无由来地获得自主生命和意识;而其恰如其分的是,我们在设计人工智能时,如何能够认识到编程者的人性弱点和盲区,以及编程者知识与思维模式的局限性?《莫克森的主人》这部短篇小说不仅挑战了同时代读者的想象力,更是挑战了21世纪读者对科技的信任。下棋机器人对于我们而言,正如一面魔镜,反照出人类对自身认知的不足,也对亲手打造的怪物——科学技术——过于信任也过于自信。在以“阿尔法狗”(Alpha Go)为代表的自主学习人工智能诞生后,人类已经在围棋领域很难战胜人工智能。科技是否有一天能够超越人类的技术管控,超越人类知识和能力的边界,这不仅是科幻未来,而已经是现实挑战。毕尔斯所设计的机器人杀死人类的结局,对人工智能高速发展的今天具有强烈的警示作用,提醒人们:机器在进化过程中有可能学习人性弱点,甚至有可能采取自主行动从而导致失控。毕尔斯就是那个泼冷水的人,其言虽然逆耳,但又不乏必要的智慧,因而,重读这部早期科幻经典能给予人工智能时代的人们必要的警醒和智慧。

（本推文编辑：宴安）

“机器人”推文回顾

欢迎扫码关注

机器人人文