刘永谋 | 从机器到机器人

机器是英文machine的中文翻译，machine来源于希腊语，后来进入拉丁语，最初意思是：引擎，诡计、狡黠。如果再往前追溯，可能与英文may有关，意思是“去拥有力量”。

汉语中，“机”意思很多：1.器械。2.织布机。大家都学过的《木兰辞》：唧唧复唧唧，木兰当户织。不闻机杼声，惟闻女叹息。3.机巧。《庄子》里有则寓言，说有个老人用罐子从井里取水浇菜地，孔夫子的学生子贡看到了，问他为什么不造个木头机械取水，一次次抱着罐子取水太辛苦。结果这个老先生是个高人，说了一句：“有机械者必有机事，有机事者必有机心”，鄙视了子贡。大家知道心机、心机婊，所以“机”在汉语中也有狡黠的贬义。

“器”这个字，汉语中指的是有用的东西：“玉不琢不成器”。有用的东西并不见得就多么重要，“器”在古代是被轻视的。《易经》中说“形而上者谓之道，形而下者谓之器。”意思是，道才高级，器都是上不了台面的。儒家有种说法“君子不器”，意思是咱们君子/贵族是不搞那些低级的、工匠搞的事情的。

1856年左右，英国传教士将machine翻译成机器，汉语中才有了“机器”的说法。

《大英百科全书》说，机器上用来节省人力、畜力，以完成各种体力工作的具有特殊用途的装置，包括杠杆这样的简单机械，也包括汽车这些的复杂机器。这种说法应该加上节省“脑力”的计算机，对不对？

《现代汉语词典》说，机器是由零件组成、能运转、能变换能量或产生有用的功的装置。这个定义有点抽象，还得要知道零件、能量和功是什么意思。

实际上，机器的意思随着历史也是变化的。一个关键的变化是，古代的手工操作的工具，现在变成了非手工操作的工具，尤其是最近几十年出现了自动化工具和智能机器。

另外，我认为还有一个重要变化，古代机器主要是无机物的，石头的、铁的、玻璃的，也有一些木头的，木头是有机物，后来橡胶、塑料、合成纤维制造的机器越来越多，这些也属于有机物。最近出现了一些安装在生物体中的机器，比如心脏起搏器，也就是说，机器正在跨越有无生命的界限。

总之，实际的机器进化了，“机器”一词的意思也就变化了。

除此之外，我们还在隐喻的意义上使用“机器”一词，比如国家机器、社会机器，这是把国家、社会类比成精密运转的机器。技术哲学家芒福德有个巨机器的概念，用来说明现代社会具有机器属性。巨机器就是大机器，最早是建造金字塔的国王发明的，包括破坏性的军事机器和建设性的劳动机器。巨机器组织大量人财物力来完成某项浩大工程，如建金字塔、修长城。古代巨机器在14世纪尤其是16世纪以后以新的形式再度复兴，在20世纪达到高潮。

我们还常常说军队是机器，意思是军队令行禁止，说某个公司是机器，意思是效率很高但没有人情味。

在历史上，很多人认为，动物是机器。大哲学家笛卡尔就这么认为，他认为动物和钟表本质上是一样的。也有一些极端的人认为，人也是机器：心脏就是提供动力的锅炉或水泵，肺是通风的风箱，血管是身体中的管道。有个哲学家拉美特利就写了本书，名字就是《人是机器》。我们常常把类似观点称为机械决定论，对它们进行批判。

控制论先驱维纳比较机器与人的神经系统，认为两者有相似性：它们都是在过去已经做出决定的基础上来做决定的装置。机器和神经系统都是在二选一中做决定的，如电门开或关，神经纤维是在传递冲动或不传递冲动之间二选一的。

1829年，历史学家卡莱尔提出了“机器时代”的概念，认为19世纪20年代英国进入了机器时代。从此，很多学者开始对机器时代的深刻反思，对机器的态度可以说是爱恨交加。

我们可以举钟表为例。

一些人认为，机械钟表是最早的现代机器。它的发明极大改变了社会生活。有了机械钟表，时间就标准化，社会活动比如上班下班就很精确的，以前说“日出而作，日落而息”，那都是大概的，每天日出日落时间不固定。有了机械时钟，大家就产生了“世界就是钟表一样精确的机器”之类的机械决定论观念。有了钟表，才有了所谓的时间观念，时间观念现在已经成为现代人的基本素质，代表现代社会所要求的规律性、秩序性和标准化。因此，钟表出现对资本主义兴起和科技进步是有正面的促进作用的。

然而，人们同时也注意到钟表让人受到时间机器的奴役。每个人都要像钟表一样精确。时间就是效率，时间就是金钱，人不再重要。尤其是对于劳动人民，钟表时间背后的纪律让生活越来越紧张。马克思在《英国工人阶级状况》、《机器。自然力和科学的应用》中，就分析了机器应用导致工人阶级生存状况恶化的原因。

中国古代思想家，基本上是轻视机器的，斥之为奇技淫巧。前面我们已经讲了《庄子》中的故事以及儒家“君子不器”的观念。很多人认为，对机器的轻视阻碍了中国科技的发展。1793年，英国马嘎尔尼使团正式访问清朝，给乾隆皇帝送了几百箱礼物，把英国最新的发明如蒸汽机、织布机等介绍给中国，结果中国人不感兴趣。后来1816年，英国使团再次访问中国的时候，就不带什么机器和科学仪器了。

对于普通老百姓而言，机器太过复杂，难于理解，因而容易产生抵触、拒绝甚至破坏的举动。1811-1813年，英国很多工人认为机器让他们失业，就组织起来破坏工厂的机器。别人问他们你们是什么人，工人们说，我们是卢德将军的手下，其实这个卢德将军是子虚乌有的。于是，这些人就被称为卢德主义者，后来卢德主义就被用来指称在平民中流行激进的反对机器、反对科技的思想。马克思批评了卢德主义者，认为问题的根源不在于机器，而在于“机器的资本主义运用”，也就是说，资产阶级掌握了机器，来它来压迫无产阶级。

中国老百姓拒绝新机器，很多时候是因为风水迷信的原因。比如，修建铁路会破坏当地风水，惊扰神，开矿会挖断龙脉。西藏在修从成都到拉萨的高铁，去年我在林芝，还听到很多人因为类似原因反对修建高铁。

大家不要认为，到了21世纪，不会有卢德主义者了。这种想法是不对的。虽然没有统计，狂热反对机器和技术的人应该不少。1990年，有人还提出了《走向新卢德主义宣言》。

技术和机器是人类发明的工具，补偿或强化人的器官和身体。但是，机器发展得越来越精美，越来越智能，让人产生某种自卑感。比较一下你的身体和Iphone手机？有人称之为“普罗米修斯的羞愧”。

人工智能和机器人出现之后，国科大的赵俊海博士就认为“普罗米修斯的羞愧”变成了“普罗米修斯的恐惧”。完美的机器人会不会淘汰不完美的人呢？

人不是机器，人不能被当作机器对待，这样的观点带有强烈的道德腔调。实际上，人与机器不是绝对二元对立的关系，人与机器的界限随着赛博格的出现，也日益消解。假设某一天，天网下令灭绝人类，一个前提性的问题就是搞清楚什么是人、哪些是人。显然，这个问题的答案看起来没有办法完全精确地回答。人面兽心的人是不是人，装上心脏起搏器的人是不是人，安装了机器手臂的人是不是人，攻壳机动队的女主角除了大脑身体其他部分都是机器，她还是不是人，黑客帝国里面脑机接口的人还是不是人？

先说第一个问题：没有什么不变的人性。我有一个我取名的“Lucy隐喻”来说明我的观点。现在主流古人类学研究认为，人类起源于同一个非洲的古猿，还给她取了一个名字叫Lucy。我的故事是：Lucy从树上下来，知道什么是人，或者她要走向何方吗？当然她不知道。也许，她只是扫视了一下身边的其他古猿，心里说了一句：我Fucking不做猿猴了！也许，她心里还说了：我要做人！可是，她并不知道什么是人。她所决定的不过是：我不要做猴子了！我讲这个隐喻，是要说明人类真实状况是既不知所来、亦不知所往的。今天，我们离开猿猴已经很远很远了，但仍然不知道自己将去向何方。实际上，我们是从猿猴进化而来的，只是诸多人类诞生理论中的一种，不过是今天的主流观念而已。生物学研究有一种说法，隔绝状态下只需要四五百年就会演化出新物种。而根据当代科学观念，人类已经有百万年的历史，智人也有数万年的历史，显然人类在不断进化，如果有一个什么人性，也应该是不断变化的。

什么是人？这个问题一直没有答案。我想，它也不会有答案。在我看来，人是一个开放的场域，是可能性本身。我们研究机器智能，从而理解人的智能，反过来我们也研究人的智能，从而提升机器的智能。从这个意义上说，人与机器人是相互界定。

有一种广为流传的说法，人是制造工具的动物。重要的不是人会思考，而是它会制造工具。而机器就是复杂的工具，所以不要小看机器，很多人认为它是现代人是其所是的本性。

什么是机器？这个问题以前比较清晰，人工智能和机器人兴起之后，这个问题也会越来越难以回答。如果机器人真的产生自我意识，它还是机器吗？如果有一天，人的意识可以上传到网络，可以被保存，再加上个机器身体，这是人还是机器？

当人不再独占智能体的时候，人与机器的界限就会被打破。很多人头脑中，机器就是无机的，而人是有机的，这种界限也正在打破，机器也可以拥有肉体。

霍金2017年曾预言，人工智能可以发展出自我意识，但我们不知道这会是何种结果？马斯克则认为，人工智能非常危险。

对此，我有一些疑惑。究竟什么是自我意识？我的身体中有一个“自我”，一个灵魂，就好象说我体内还有个“小人”，它住在我的身体中驱动着我的肉体。当机器有了自我意识，相当于这个“小人”住进了机器当中，开始支配机器的行动。可是什么是自我呢？我身体中有个自我，自我有没有自我呢？有很多人，不相信有什么自我、灵魂这些概念，认为是杜撰出来的理论术语。为什么你会这样干、那样干？因为你的自我驱动你做的，然后问题好像就回答了，我们不用进一步追问驱动你的自我到底是什么东西，这个“自我”不属于自然科学讨论的东西，而是哲学、神学、心理学等文科研究的对象了，逃避了自然科学的考察。

实际上，Robot这个词的原初意思是自动劳工、干活的奴隶，也就是说，当初的设想是想让它们代替我们劳动，让我们有更多的自由时间。但是，人性是何其贪婪、自私，现在想让Robot满足所有的欲望，甚至邪恶、变态的欲望。Robot不能仅仅只做苦工，而是要做阿拉丁神灯。可是阿拉丁神灯也是有脾气的，它有它的规矩，许愿就不能反悔，三个愿望就结束主人的奴役。那梦中的Robot是什么？它同时拥有至高的能力和至善的美德，它是什么？那它是上帝，是不是？但是，上帝不是人的苦工，而是人的主宰。上帝脾气更大，动不动要降下天火，焚毁不义的罪人和罪城。梦中的Robot是上帝吗？不是。它不过是人族的欲望，不过是人本身。那些穷凶极恶的专制者期望的子民守则，现在要成为我们指导AI伦理的代码？还有人说，要用三纲五常“养成”机器人——这才是所谓学以成人新时代的最大亮点和Logo。

有人说，因为我们要给机器人制定伦理，如果它是人就需要伦理。如果它真是人，你觉得伦理能制约得了它吗？你不是人吗，伦理把你完全制约住成为活雷锋了吗？道德百分百管用，还需要法院、公安局和联防队干嘛？如果机器人是人，你就那它当人——而不要要求它做活雷锋——对待就完了啊。如果它不是人，你觉得你跟它讲伦理有用吗，它能懂吗？机器人如果不是人，AI伦理其实制约的是设计、制造和贩卖它的人。阿西莫夫机器人三定律是说给机器人的主人听的，而且它也是不完备的，需要第零定律、第四定律……第N定律补充，就是因为人的伦理从来就是不完备的。它是一个历史现象，不是一个逻辑空间。你要把Robot变成活雷锋，能做到吗？不能，因为活雷锋就没有一个标准，比如说：在中国活雷锋要见人帮人，在美国没事你不要搀扶老人——他/她或以为你看不起他/她。总之，你不要把机器人当成活雷锋，这是不可能的。网上深度学习的机器人，最后只能是谎话、屁话和怪话连篇的。有样学样，跟着人学，能有好吗？