人工智能带来新的伦理问题：我们应该如何对待电脑中的人类意识？

如果你曾经玩过角色扮演游戏——无论是在线游戏还是老式的现实游戏——你就会知道你依附上游戏中自己的化身是多么的容易，当你的角色被巨魔碾碎，被恶龙击倒或者被术士杀死时，你真的会感到很伤心。美国社会学家(同时也是一个狂热的游戏玩家)威廉•西姆斯•班布里奇(William Sims Bainbridge)将这种关系又向前推进了一步，他为至少17位已故家庭成员创造了虚拟的化身。在2013年的一篇关于网络化身的文章中，他预见了这样的一个时代：我们将能够把自己部分的身份信息转移到自己的人工智能模拟化身上，这些人工智能模拟化身可以脱离我们独立工作，甚至在我们死后还能继续存在。

我们应该对这些模拟人类承担什么样的责任?不管我们对暴力电脑游戏有什么看法，当你把一个虚拟的攻击者打得魂飞魄散的时候，没有人会真的认为这是谋杀，而且，拥有一定程度自主性和意识的模拟人有一天可能会存在已经不再荒谬了。许多哲学家认为，像我们这样的意识并不一定只能由我们大脑中的神经元网络作为载体，它可以存在于许多不同种类的物质系统中。如果他们是对的话，那么我们没有理由不相信意识可以存在于足够强大的计算机电路中。

现在，道德哲学家们思考着塑造人类群体的伦理问题，比如：人生的价值是什么?我们应该努力营造什么样的生活?我们应该在多大程度上重视人类多样性的价值?但当涉及到如何对待模拟实体的伦理问题时，我们不清楚我们是否应该依赖于我们对现实世界发展出来的直觉。我们从骨子里觉得，杀死一只狗，甚至一只苍蝇都有问题，但是这和关闭一只苍蝇的模拟大脑的感觉是一样的吗?如果说是一个人的模拟大脑呢?当“生命”以新的数字形式出现出时，我们自己的个人感觉可能已经无法成为可靠的道德指南。

剑桥大学(University of Cambridge)的理论物理学家阿德里安•肯特(Adrian Kent)已经开始探索道德推理中的这一缺陷。他在最近的一篇论文中提出，假设我们能够以非常低的成本在电脑上模仿人类的意识，我们会想要给这个虚拟人物一个丰富而有价值的互动环境——一个值得生活的生命。也许我们甚至可以通过对真实的人脑进行复杂的细节扫描，并通过计算再现出来。你可以想象这种技术被用来“拯救”绝症患者;现在一些超人类学家将其视为通往不朽意识的途径。

当然了，这也可能都只是白日梦——但请耐心等待。现在让我们来介绍一套被称为功利主义的道德原则，它在18世纪末由杰里米·边沁提出，随后由约翰·斯图亚特·密尔加以完善。边沁说，综合考虑所有因素，我们应该努力为最多的人获得最大的幸福(或“效用”)，或者，用密尔的话来说：“促进幸福的行为是正确的，反之的行为则是错误的。”

作为良好行为的准则，它有很多值得批评的地方。例如，我们如何衡量或比较幸福的类型——例如，将祖母的爱与成为一名钢琴演奏家的喜悦相比?肯特告诉我：“即使你想认真对待功利主义，你也不知道自己往微积分里放的对比项到底意味着什么。”尽管如此，今天大多数的信仰体系都含蓄地承认，指向更大幸福的道德罗盘比指向相反方向的更可靠。

在肯特的描述的情况下，人们可能会倾向于以功利主义的立场认为，我们有义务去不受约束地增加我们的模拟化身。而在现实世界中，这种不受限制的繁殖有明显的缺陷，在庞大的家庭中，人们会在情感上和经济上苦苦挣扎;人口过剩已经对全球资源造成巨大压力;等等。但在虚拟世界中，这些限制并不存在。你可以用几乎无限的资源模拟一个乌托邦。那么，为什么你不能创造出尽可能多的世界，并让所有的世界都充满无比满足的模拟人化身呢?

我们的直觉可能会回答：这有什么意义?也许一个有意识的模拟人化身并不会和一个新生的有血有肉的人具备同样的内在价值。这是新奥尔良杜兰大学(Tulane University)心理哲学和虚拟现实伦理学专家迈克尔•马德里(Michael Madary)认为我们应该认真对待的一个疑问。“人类生活中有一种神秘的元素，它引导我们问一些经典的哲学问题，比如：为什么那里会有东西而不是什么都没有?生命有意义吗?我们有义务过道德生活吗?”他告诉我。“模拟大脑可能会问这些问题，但从我们的角度来看，它们都是骗人的”——因为这些大脑之所以存在只是因为我们选择发明它们。

就像一些哲学家已经说过的那样，人们可能会回答：那怎么证明我们自己就不是模拟生物了呢?我们不能排除这种可能性，但我们仍然认为这些问题对我们有意义，所以我们不妨在模拟化身中假设这些问题也对它们有意义。

接着，肯特又问：在道德上来说，是创造一群每个人完全相同的人，还是一群每个人都不一样的人?使每个人都完全相同当然更有效率——我们只需要其中一个人的信息就可以创造无数个人的化身。但我们的直觉可能告诉我们，多样性在某种程度上可能有更多价值。然而，如果没有理由认为无数个不同的人会比无数个相同的人更幸福，那为什么要这样做呢?

Kent的观点认为，不同的生命的多个副本比单一生命的多个副本更可取。他说：“我很难摆脱这样一种直觉，即一个拥有10亿个独立的、完全相同的小明的宇宙，不如一个拥有10亿个不同个体的宇宙有趣。”他把这种概念称为复制劣势。

在一个由数十亿个小明所组成的宇宙中，肯特想知道，谈论多次重复的同一个生命是否有意义——或者我们仅仅是在谈论一个分散在多个世界的单一生命。这可能意味着，在相同环境中的许多小明并不比一个小明更有价值，他将这种情况描述为复制无用。肯特说：“我倾向于这种观点。”尽管肯特还没有找到一个完美的佐证。

肯特的思想实验触及了道德哲学中一些长期存在的难题，而这些难题从未得到令人满意的答案。英国哲学家德里克·帕菲特(Derek Parfit)于去年去世，他在1984年出版的关于身份与自我的不朽著作《理与人》(Reasons and Persons)中对这些问题进行了剖析。在这里，帕菲特思考了一些问题，比如世界上应该有多少人，以及在我们能够做到的时候，为这个世界增加一个值得生活的生命在道德上是否总是更好的。

即使你接受功利主义的观点，为最多的人寻求最大的幸福也是有问题的：这两个标准会产生歧义。例如，想象我们在一个资源有限的世界里可以控制人口的数量。然后你可能会想，一定有一个最理想的人口数量，原则上这个数字允许资源能够被最好地利用来确保所有人的幸福和繁荣发展。但我们肯定能在这个乌托邦里再空出一个人的位置吧?每个人减少一点点的幸福来让一个人过上更幸福的生活难道不是可以接受的吗?

问题就出现在这了，这个过程并没有尽头。尽管人数在不断增加，但新生命带来的额外快乐可能会超过了那些已经活着的人付出的代价。帕菲特说，你最终得到的是一个“矛盾的结论”：在这种情况下，最好的结果是人口膨胀，而且这些人的生活都很悲惨，但仍比没有生活好一点点。总的来说，他们微薄的快乐加起来还是比一小部分真正快乐的人的快乐加起来还要多。帕菲特写道：“我觉得这个结论很难接受，但我们能证明这种直觉是正确的吗?”对于肯特来说，他并不确定，他说，我认为这个矛盾的结论还没有任何具有共识性的解决方案。

这个问题的核心是帕菲特所谓的“非同一性问题”：我们如何理性地思考有关个体(这些个体的存在与否取决于我们做出的选择，比如我们能否为“再来一个”腾出空间)的问题?从原则上讲，在我们采取了一些关乎自身利弊的行动后权衡个人受到的伤害和利益并不难。但如果这个衡量的过程包含了一个人根本不存在的可能性，我们就不知道怎么继续衡量了。与不存在的整零相比，几乎任何事物都是一种收获，因此，各种令人作呕的情景似乎在道德上都是可以接受的。

在人口功利主义的游戏中还有另一种更奇怪的情形。如果有一个人非常多的快乐，以至于他获得的快乐远远超过了他要求别人做出的任何牺牲，那该怎么办?美国哲学家罗伯特•诺齐克(Robert Nozick)称这种生物为“功利主义怪兽”，并在他的著作《无政府、国家和乌托邦》(Anarchy, State and Utopia, 1974)中把它作为功利主义的批判之作。用诺齐克的话来说，这张场景似乎是“要求我们都牺牲在怪物的胃里，以增加总效用”。帕菲特的书很大程度上是一种尝试——虽然最终以失败告终——试图找到一种方法，既能摆脱矛盾的结论，又能摆脱功利主义怪兽。

现在回想一下Kent满是模拟人化身的虚拟世界，以及他复制劣势原则——给定数量的不同生命比相同数量的相同生命更有价值。也许这能让我们摆脱帕菲特令人厌恶的结论。尽管列夫·托尔斯泰在《安娜·卡列尼娜》(1878年)的开头几行就提到了不幸家庭的特殊性，但在他们凄凉乏味的生活中，大量悲惨的生活似乎都差不多。因此，他们也不会一点一点地增加总幸福感。

但出于同样的原因，复制劣势倾向于功利主义怪兽——因为根据定义，这种怪物将是独一无二的，因此，与它贪婪的胃里那些难免相似的生命相比，它将更加“有价值”。这也不是一个令人满意的结论。肯特承认：“如果人们能更多地关注这些问题，那就太好了，我对这些问题目前有些困惑。”

美国自由意志主义经济学家罗宾·汉森(Robin Hanson)是弗吉尼亚乔治梅森大学(George Mason University)经济学教授，也是牛津大学人类未来研究所(Future of Humanity Institute)的研究员，他认为这些沉思与其说是思想实验还不如说是对未来的预测。他在2016年出版的《Em时代》(The Age of Em)一书中设想了一个社会，在这个社会中，所有的人类都将自己的意识上传到电脑上，以“仿真”的方式来虚拟生活(不是模拟化身，而是仿真)。他写道，数十亿这样的上传化身可以在一栋高楼里生活和工作，所有人都可以住在宽敞的房子里。

汉森已经详细思考过了这个经济体将如何运作。仿真化身可以是任何大小的，而且与人类相比有些还可能非常小，它们的时间可能与我们的时间速度不同，仿真的世界里将会有广泛的监督和勉强维持生活的工资，但仿真化身可能会选择只记住休闲的生活，从而将这种痛苦拒之门外。(汉森是那些认为我们可能已经生活在这样一个虚拟世界的人之一。)

这种情况允许复制自我的可能性，因为一旦大脑被转移到计算机上，复制它应该是相当容易的。汉森说，身份认同的问题随后会变得模糊：复制人最初是“同一个人”，但随着他们开始分开生活，他们的身份会逐渐分化，就像同卵双胞胎一样。

汉森认为，人的重复不仅仅是可能的，而且是可取的。在即将到来的仿真化身时代，拥有特别有价值的精神特质的人将被多次“上传”。一般来说，作为保险的一种形式，人们会想要更多地复制自己。汉森说，他们希望在实施过程中有足够的盈余，以确保自己能够在意外灾难发生后仍能生存下去。

但他不认为这些仿真化身会选择与肯特描述相同的生活场景。汉森告诉我，仿真化身会认为在不同的时间和地点重新过同样的生活几乎没有什么意义。“它们会把精力放在很多复制化身上，主要是因为这些复制化身可以工作，或与他人建立关系。”但这样的工作和关系要求每一个复制化身都是独立的，并且因为它们不同的任务或关系伙伴而具有交织的历史。

尽管如此，仿真化身仍需要应对我们目前无法评估的道德困境。汉森说：“我不认为人类进化出的道德观足够普遍和强大，我认为我们的道德观在我们祖先的经历之外的这些情况并不能继续给出答案。”他说，“我预计仿真化身对这类事情会持有许多不同、相互矛盾的态度。”

现在，这一切听起来可能很不舒服，就像中世纪那些关于天使在针头上跳舞的虚构争论一样。

我们能创造出一开始就宣称拥有真正生命的虚拟生命吗?肯特说：“我认为没有人能自信地说这是否可能，部分原因是我们对意识并没有很好的科学理解。”

即便如此，我们的科学技术仍在进步，这些问题也仍然存在。瑞典哲学家尼克·博斯特罗姆(Nick Bostrom)也是人类未来研究所(Future of Humanity Institute)的研究员。他认为，“后人类”文明拥有的计算能力，应该能够轻易地处理模拟生物，它们对世界的体验与我们人类一样“真实”、丰富。(博斯特罗姆是另一位相信我们可能已经是在这种模拟中的人。)但是，关于我们应该如何塑造人口的问题可能不需要等到后人类时代，肯特说，在不远的将来，这可能成为未来程序员、研究人员和政策制定者面临的真正难题。

对于肯特预想的场景，可能已经有了现实世界的影响。关于效用最大化和非同一性问题的争论出现在了关于促进和预防人类受孕的讨论中。什么时候应该以风险为由拒绝接受辅助受孕的方法，比如畸形婴儿?任何新方法都不能保证完全安全(受孕从来都不是安全的);如果这是一个标准的话，试管受精就永远不会开始。通常这些技术被认为应该低于某些风险阈值，但功利主义者的看法对这个观点提出了挑战。

例如，如果一种辅助生殖的新方法伴有轻微出生缺陷现象(如高度可见的胎记)的中等风险，那怎么办?(这是一个真实的争论：纳撒尼尔·霍桑的短篇小说《胎记》“Birth-Mark”(1843)中，一个炼金术师般的人物为了消除妻子的残疾而尝试了这种方法，但是后果却是致命的。2002年时任美国总统乔治·W·布什政府下的生命伦理委员会在审议关于人工辅助受孕和胚胎研究的问题时引用了这篇文章。)很难争辩说，用这种方法出生的人，如果当初没有采用这种技术受孕而是从来没出生过的话是否可能会更好。但我们该在哪里划定界限呢?什么时候带有出生缺陷会比从来没有活过更好?

一些人引用了这种困惑来捍卫人类生殖克隆。这些危险，比如社会耻辱或扭曲的父母动机和期望，真的会超过被赋予生命的美好吗?我们是以什么样的身份来为一个克隆人做出这样的选择呢?再者，在这个人存在之前，我们又是在为谁做选择呢?

这种推理似乎要求我们承担起一个上帝般的创意角色。然而，一个女权主义者就可能会问了，我们是否只是变成了弗兰肯斯坦式幻想的猎物，换句话说，这只是一群男人因为最终能够制造出人类所以走火入魔，而女人只能一辈子继续琢磨这个难题而已罢了?贯穿整个辩论的新奇感无疑带有一种家长式的味道。(无可否认的是，汉森在网络上的Manosphere中是一个英雄式的任务，他为“非自愿独身者”和性的“再分配”的必要性辩解的言论受到了严厉的批评。他还对历史因果关系之箭表现出了相当奇怪的态度，他指出，在仿真化身时代，男性仿真化身可能比女性仿真化身更受欢迎，因为“当今大多数领域的顶尖人物多数是男性”。

即便如此，虚拟意识的前景确实提出了新颖且引人入胜的伦理问题，肯特认为，这些问题迫使我们直面我们对当下生活和人口结构变化持有的直觉价值观。我们很难找到任何有力的哲学论证来解释为什么一定数量的不同生命在道德上优于同样数量的相同生命。那么我们为什么会这样想呢?这将如何影响我们其他的假设和偏见?

有人可能会说，人类群体感知到的同质性会削弱同理心和伦理推理的能力。关于来自不熟悉背景的人的“脸盲”或“大众”的修辞状况意味着我们对他们的生活的重视程度低于那些我们认为差异更大的人。肯特说：“很明显，我们不愿意认为这就是人们现在看待世界的方式，但事实并非如此。”

考虑到种群中的遗传多样性对个体的稳健性至关重要，我们甚至可能在进化上对个体的同一性有一种根深蒂固的反感?想想电影里对同卵双胞胎或同卵克隆人的描述：那些从来都不是好兆头。这些幻象是不可思议的——西格蒙德·弗洛伊德在1919年将这种感觉与“双重人格”(二重身)联系在一起……因为两个人长相相似而不得不被视为外貌一模一样的人”。对于同卵双胞胎来说，这可能会表现为一种可以相互偷窥的魅力，但如果有100个左右“完全相同”的人，人们的反应可能会是完完全全的恐惧。

无论是在现实世界还是虚拟世界，我们似乎都不会在短时间内遇到大量的复制化身。但是，正如肯特所说：“有时候思想实验的价值就在于它给你一种看待世界上现存问题的新方式。”“无论是汉森的工人无人机还是班布里奇的替代亲戚，想象用于对待复制化身的道德标准，都暴露了我们生活道德价值观中不可靠或缺失的逻辑，而我们自身在日常生活中都会本能地用这套生活道德价值观衡量自己”