拟人伦理：我们应该杀死自己的虚拟化身吗？

假如你可以轻松制造一千个自己的电子复制品，你应该这样做吗？要是以后你想把他们消灭掉，又会怎样？

如果你玩过角色扮演游戏，无论是在网上，还是老掉牙的真实世界版本，就应该知道我们很容易与自己的化身（avatar）建立紧密的情感联系。当你的角色被怪兽捣烂，被巨龙虐杀，被巫师残害，你的心里也会受到暴击。美国社会学家威廉·西姆斯·班布里奇（William Sims Bainbridge）也是个狂热的游戏玩家，他把这种关系更推进了一步——他为至少17位已故的家庭成员创造了虚拟化身。2013年他写了篇关于网络化身的论文，并预测有朝一日我们能把自我的一部分转移到自己的人工智能模拟上，这些模拟可以独立于我们自行运作，甚至在我们死后依然持存。

这些模拟人类给我们带来了什么责任呢？虽然人们对暴力的电子游戏莫衷一是，没有人认真地把杀害虚拟敌人的人当成谋杀犯。然而，模拟人类的存在已经不再是天方夜谭，而且他们可能将拥有某种程度的自主性和意识。不少哲学家相信，多种多样的物质系统都可以产生与我们类似的心智，不一定得是我们大脑的神经网络。假如这种说法是对的，似乎没有什么能阻挡足够强大的电脑电路拥有意识。

如今，道德哲学家们琢磨着塑造人类群体的道德体系，他们试图回答这些问题：人类生活的价值是什么？我们应该力图建设怎样的生活？人类多样性应该被赋予多少价值？然而，面临该如何对待模拟实体的伦理问题，我们不清楚那些发源于有血有肉的人类世界的直觉是否依然可靠。我们骨子里觉得，杀死一条狗，甚至拍死一只苍蝇是不对的。但是，这和关闭一只苍蝇大脑的模拟，或是人类大脑的模拟，是同一件事吗？当“生命”以电子的新形式呈现，我们自身的经验或许不再是可靠的道德向导。

剑桥大学的理论物理学家阿德里安·肯特（Adrian Kent）已经开始填补这一道德推理的空白。他在近日一篇论文中假设了一种情况：我们能够以很低的成本在电脑上模拟出人类意识。我们会希望给这个虚拟存在创造一个丰富多彩且乐于反馈的互动环境——一种值得过的人生。也许我们甚至会对真人做同样的事情，扫描他们大脑中每一个神经联结，然后用计算机重现意识。很容易想见，这项技术可以用来“拯救”罹患绝症的人；如今一些超人类主义者（transhumanists）视其为通向永生意识的天梯。

的确，这像是痴人说梦，但请容许我说下去。现在，让我们把功利主义（utilitarianism）的那套道德准则摆上台面。功利主义是杰瑞米·边沁（Jeremy Bentham）于18世纪末期提出的，约翰·斯图尔特·密尔（John Stuart Mill）在此基础上有所改进。*边沁说，从全局来看，我们应该努力追求最多数人的最大程度的幸福（也就是“功利”）。用密尔的话来说，就是“趋向于增益幸福的行为是恰当的行为，而对幸福起到反作用的行为是错的”。作为善的行为的准则，他们的说法有不少缺陷。比如，我们怎么能测量、比较不同种类的幸福呢？——成为技艺超群的钢琴艺术家的愉悦，和祖母的慈爱两者该怎么比较呢？“即使你决意践行功利主义，你并不清楚公式里的那些性质变量到底是什么意思。”肯特告诉我。然而，当今社会的大多数信仰体系其实都隐含了这样的共识：一个指向更多幸福的道德罗盘（moral compass），要比朝反方向校准的合理得多。

译者注：边沁将幸福的计算提取为七个变量。而密尔认为幸福不仅有量的不同，也有质的区别，比如精神幸福比肉体幸福更高尚。

在肯特设想的情境中，我们很容易不胜功利主义立场的诱惑，认为我们有义务创造模拟存在——就称他们为拟人（sims）吧——并允许他们不受限制地繁衍壮大。在现实世界中，这样无约束的生殖显然是有害的。人们会被庞大的家庭组织困扰，情感上和经济上都陷入窘境；人口过剩造成的资源短缺也是有目共睹的事实；诸如此类。在虚拟世界却不存在这些束缚。你可以模拟一个拥有资源近乎无限的乌托邦。那么，为什么不应该创造尽可能多的世界，并让尽可能多的拟人栖居于此，过上极乐生活呢？

我们可能会出于直觉反问：这样做有什么意义？创造一个有意识的拟人和把一个有血有肉的人带来世间是不同的，拟人没有那种内在价值。新奥尔良杜兰大学的心灵哲学及虚拟现实伦理学专家迈克尔·玛达利（Michael Madary）认为，这一疑虑值得我们认真对待。“人类的生命具有一种神秘元素，它指引我们提出了许多经典哲学问题，比如：为什么有东西存在，而不是空无一物？生命有意义吗？我们有义务过道德的生活吗？”他说，“模拟心智或许也会问这些，但在我们看来，他们的问题是虚伪的。”——因为这些心智存在的必要条件是，我们选择了去创造他们。

我们或许可以这样回应（事实上有些哲学家已经说过）：怎么能确保我们不会都是这类模拟存在呢？我们无法排除这种可能性，但我们依然认为那些问题是有意义的。所以，我们应该假设它们在虚拟世界中也是正当的。

紧接着，肯特继续发问：创造一群彼此相同的存在，与人人各异的存在，哪种情况在道德上更可取？把每个拟人都造成一模一样的显然更有效率，我们只需要一人份的信息，就可以创造N个拟人。然而，直觉或许会告诉我们，多样性具有某种价值。可是，如果N个各异的个体并不会比N个相同的个体拥有更多幸福，多样性又有什么意义呢？

肯特的观点是，千姿百态的生命优于单个生命的机械复制。“我发现很难摆脱这样的直觉：十亿个彼此独立但是一模一样的仿真爱丽丝，和十亿个不同的仿真个体，后者构成的世界更有趣、更好。”他说。他把这个概念叫做复制的低劣性（replication inferiority）。

假如几十亿个爱丽丝占据了宇宙，肯特怀疑同一生命复制多次这种说法甚至会丧失意义——也许我们应该只承认一个生命，只不过她在不同的世界中反复出现。这可能意味着相同环境中的许多爱丽丝，并不比一个爱丽丝更有价值。肯特把这种情况叫做复制的无效性（replication futility）。“我愈发倾向于这种观点。”但他承认找不到确凿的论据来支持。

肯特的思想实验触及了道德哲学的一些千古难题，这些问题的答案到现在还扑朔迷离。去年刚离世的英国哲学家德瑞克·帕菲特（Derek Parfit）在1984年出版的伟大著作《理与人》（Reasons and Persons）一书中，深入探讨了身份与自我，并将那些千古难题拆解成了一些具体问题，比如世上应该有多少人，将一个值得活的生命带到人世是否永远是道德的做法（如果世界人口还容得下他），等等。

功利主义者必须面对“寻求最多数人的最大幸福”这一信条带来的问题：双重标准导致了歧义。假设我们栖居的世界资源有限，我们对人口进行管控；你可能认为必定存在一个人口数量的最优解，使得资源（在原则上）得到最有效的利用，每个人都能过上快乐富足的生活。可是，难道这个乌托邦不能再容纳一个人吗？只要每个人的幸福打一个小小的折扣，就能多一个幸福的人，想必你没意见吧？

麻烦在于，这种操作是没底的。即便人口数一路飙升，新生命增加的快乐总是多于其他人付出的代价。按帕菲特的说法，这导致了一个“矛盾的结论”：我们可以设想出一个情境，在那里最好的结果是，人口总量极度臃肿，每个人都过着悲惨的生活（但总比没有生命要强一些）；毕竟他们每个人少得可怜的幸福全都加起来，要比一小群极为幸福的人的幸福总量要大。“我很难接受这样的结论。”帕菲特写道。他的直觉可以被辩护吗？肯特没法给出肯定的答案。“我认为没人能解释这个结论，并让大家都满意。”他说。

问题的核心是帕菲特所谓的“非实体困难”（nonidentity problem）：当某些个体的存在与否都取决于我们的决定（比如说我们要不要“再多塞一个人进去”），我们如何能理性思考涉及这些个体的问题呢？当我们做出可能影响他人的行为时，权衡此人可能获得的各方面利弊在原则上不是难事。然而一旦存在“此人从未存在”的可能性，我们就算不来了。和不存在（值为零）相比，几乎一切都堪比中大奖，于是各种倒胃口的情况都变得像是道德上的义举了。

人口功利主义的游戏里，还有一种更为怪异的情境。如果有一个幸福容量奇大（转换率也很高）的人，他可以享受排山倒海的幸福，只要每个人作出小小的牺牲，我们该怎么办？美国哲学家罗伯特·诺齐克（Robert Nozick）把这家伙叫做“功利怪兽”，并在1984年的《无政府、政府与乌托邦》（Anarchy, State and Utopia）一书中召唤它，暴击了功利主义。诺齐克写道，这幅图景无异于“为了增加总体功利，我们每个人都必须献出生命，以满足怪兽的口腹之欲”。帕菲特《理与人》的主要内容，便是他如何努力寻找一条同时避免恶心的结论与功利怪兽这两种情况的途径——当然他最后没找着。

现在让我们回到肯特那些充满拟人的虚拟世界，还有，别忘了低劣性原则——在人数相等的前提下，彼此不同的生命比一模一样的生命更具价值。也许这为我们提供了一种办法来避免避免帕菲特的恶心结论。虽然托尔斯泰在《安娜卡列尼娜》的开篇说不幸的家庭各有各的不幸，但似乎不计其数的可怜生命都被几乎相同的黑暗与凄凉笼罩。因此，他们并不会为增加幸福总量做出点滴微小贡献。

然而按照同样的道理，复制的低劣性却变成了功利怪兽的友军。因为从定义来说怪兽是独一无二的，与被它吞进血盆大口的那些毫无特色的生命相比，它也就更“值得”。这个结论同样使人难堪。“我希望大家多多关注这些问题。”肯特承认，“我已经被搞糊涂了。”

弗吉尼亚乔治·梅森大学（GMU）经济学教授、牛津大学人类未来研究院（FHI）助理研究员、美国自由主义经济学家罗宾·汉森（Robin Hanson）则认为这些沉思与其说是思想实验，毋宁说是对未来的语言。他在2016年的《仿人年代》（The Age of Em）一书中设想了这样一个社会：所有人都将意识上传到电脑，以虚拟生命“仿真人”（emulations）的形式存续（他没用拟人这个词，而称他们为仿人）。“数十亿个仿人可以在一幢高楼里生活工作，人人都住得很宽敞。”他写道。

汉森细致地描绘了这一经济体的运行方式。仿人可以有大大小小各种尺寸，有一些会非常小，仿人世界的时间流速也许和我们不一样。那里会有极为严苛的监管机制，薪水勉强维持生计，但是仿人可以选择回忆悠闲的生活以麻痹痛苦。（汉森和许多人想法一样，认为我们也许早就生活在这种虚拟世界。）

自我复制在这一情境中是可行的，只要心智被转换成数据、储存到电脑里，复制多份就很简单了。汉森说，但这会造成身份边界含混不清的问题：复制品在一开始是“同一个人”，但随着他们分道扬镳展开生活，个人身份就逐渐产生差异了——就像同卵双胞胎一样。

在汉森看来，人的复制不仅是可能的，更是值得去做的。在即将到来的仿人时代，那些拥有宝贵精神特质的人，可以被多次“上传”。总的来说，保险起见，人们无论如何都会想要多复制几个自己。“人们会在操作上宁滥勿缺，因为冗余能保证他们在天灾人祸中幸存下来。”汉森说。

但汉森认为人们不会选择肯特描述的相同生命情境。仿人“会觉得在不同时间地点重复同样的生活是没有价值的做法”，汉森告诉我，“他们会青睐多个复制品，主要原因是这些复制品可以一起工作，彼此之间建立关系。但这种工作和关系要求每一份复制品相互在因果上是独立的，他们的经历通过不同的任务和关系伙伴交织在一起。

依然，仿人也必须接受一些道德窘境的拷问，而我们目前还没有资本评估这些问题。“我认为人类演化出来的道德不够普遍化，而且太脆弱了，因而面对这些祖先从未经历甚至不可想象的情景，我们没法给出连贯一致的解答。”

也许到目前为止听起来都像无稽之谈，和传说中中世纪的人们争论针尖上能站几个天使一样荒谬。首先，我们真的可能造出可以称得上“活着的”虚拟生命吗？“我觉得没有人可以打包票能还是不能。”肯特说，部分因为“我们对意识还没有一个合理准确的科学理解”。

可技术不管这些尚未解答的问题，兀自一路高歌猛进。同在人类未来研究院任职的瑞典哲学家尼克‧博斯特罗姆（Nick Bostrom）曾宣称，“后人类”（posthuman）文明所拥有的计算能力，可以轻松应付那些每分每秒对世界的体验都与我们同样“真实”而丰富的模拟存在。（博斯特罗姆也属于赞同“我们可能生活在模拟世界”的阵营。）然而，我们不用等到后人类时代，就可以思考如何塑造人类世界的问题。这“可能让未来的程序员、科研人员和政策制定者陷入真正的困境，而且说不定这一刻已经近在眼前”，肯特说。

或许，肯特设想的状况在真实世界已初露端倪。在人类受孕的促进与预防问题的讨论中，已经牵涉到关于功利最大化和非实体困难的争议。如果某种辅助受孕手段有一定风险，比如导致婴儿发育异常，那我们应该在哪些情况下禁止这一手段呢？没有一种新方法可以确保百分百安全，怀孕从来都有风险；如果我们以绝对安全为标准，就不存在试管婴儿了。人们普遍假设这些技术手段的风险应该被控制在某个阈值以下，但这和功利主义的观点是相冲突的。

比如说，某种辅助生殖手段有造成婴儿轻微出生缺陷（很明显的胎记之类*）的中等风险，该怎么办？你也很难说借助该手段降生、身上有胎记的人最好一开始就没被这一技术所孕育。可是，那条分界线应该划在哪儿呢？先天性缺陷要严重到什么程度，才比从未降生更糟糕呢？

*这是一个真实的论据。纳撒尼尔·霍桑（Nathaniel Hawthorne）1984年的短篇小说《胎记》（The Birth-Mark）讲述了一个类似炼金术师的角色试图消除妻子身上的瑕疵，造成了毁灭性的恶果。2002年，乔治·布什任期内，美国总统生物伦理委员会（PCBE）在考虑辅助受孕和胚胎研究问题时曾援引这个故事。

一些人引述这一困境为人类生殖克隆辩护。社会污名、父母动机及期望的扭曲等风险，真的可以抹煞准许一条生命降临带来的裨益吗？我们有权利为克隆人做出选择吗？如果我们没有权利，而这个克隆人自己尚不存在，决定权又在谁手里呢？

似乎我们得把自己当成上帝般创造性的主体，才能做这些推理。然而，一个理智的女性主义旁观者或许会问：这是否是某种版本的弗兰肯斯坦式幻想，而我们终将任其鱼肉？换言之，这不就像是一群男人被终于能够制造人类的愿景所裹挟，而女人得一刻不停地计算琢磨过程中的得失吗？弥漫在整场争论中的新奇感，显然带有父权主义的意味。（我提醒一下，汉森在互联网的大男子主义小圈子里可谓是个英雄角色，他曾因为洗白“厌女屌丝”*和要求性行为“再分配”被广大网民攻讦。他还在《仿人时代》中对历史因果关系表现出相当奇怪的态度。他指出，男性仿人会比女性仿人的市场需求更大，因为“如今大多数领域的佼佼者多为男性”。）

*译注：原文为俚语“incels”，字面意思是非自愿禁欲主义者，特指因性格恶劣、歧视女性而缺乏性生活，却没有自知之明的男性。

即便如此，或将成真的虚拟意识的确带来了一些崭新而迷人的伦理问题。肯特称，这些问题逼着我们重新审视我们于此时此地，凭靠直觉赋予各个样态的生命与人口的价值。似乎不存在强有力的哲学论据，能说明为什么在给定数量的前提下，多样化的生命相对于千篇一律的生命具有道德优势。那为什么我们总有那样的想法呢？我们的其他预设与偏见又是如何受其影响的？

你可以主张，一旦我们感知到人口同质性，共情及道德推理的能力就会被侵蚀。那些来自陌生背景的人总是被巧妙地称作“无名氏”或“群众”，表示我们没有像尊重那些体现了差异化的人们那样尊重他们的价值。当然，我们不愿意承认现在大家就是这样看待世界的，肯特说，“但这是不容争辩的事实。”

甚至，感知到千人一面便会心生厌恶，这会不会是演化带来的烙印？毕竟群体内的基因多样性是稳健繁荣的前提啊。想想电影里出现的同卵双胞胎或者克隆人军团：从来不是什么好兆头。这种看待别人的方式很奇怪，弗洛伊德在1919年把这种感觉与“复影”（doppelgänger）的概念联结起来，“即人仅仅因为长得相似就被当作相同的人这种表象”。在同卵双胞胎那儿，这或许会以窥淫癖好的形式展现。但如果你看到一百个“一模一样”的人，大概要被活活吓死吧。

似乎我们暂时还不用与复制人大军交战，不论是在真实世界还是虚拟世界。然而，正如肯特所言，“有时候思想实验的价值就在于，启示人们以崭新的方式看待现实中既有的问题。”汉森的仿人劳工世界，班布里奇的亡故亲人可替代的世界，都可以作为思考的背景，让我们想象关于如何对待拟人的诸多道德问题，并且，反观我们用以考量自己生活的道德直觉，揭露其背后的逻辑谬误、逻辑缺位。

翻译：有耳；审校：EON、张蒙