✪ William MacAskill｜牛津大学全球优先研究所
✪ 慧诺(译)｜文化纵横新媒体
【导读】2022年以来，多国政要出于各种原因相继离世或退出政坛，成为当下高风险时代的一种特殊征候。在地缘政治摩擦升温，极端天灾频发，全球能源危机、粮食危机、通胀危机交叠迸发的大环境下，人类社会正普遍陷入某种“精神内耗”。甚至有人解读，当年美国学者福山的“历史终结论”，就是其字面含义，代表着人类或将实现自我毁灭。但果真如此吗？基于西方独特的精神结构，牛津大学教授William MacAskill特为《外交》（Foreign Affairs）杂志撰文，详细分析人类社会面临的灾难性风险，评估当前的应对措施，并提出对策。
作者认为，相比哺乳动物的平均繁衍寿命，人类这个物种的历史才刚刚“开始”，远谈不上福山所言的“终结”。但在过去100年内，人类发明的各类破坏性技术（核武器、生物武器、人工智能等），却可能导致人类物种整体“英年早逝”。目前的人类制度，对潜在灾难后果的预防和应对远远不足，甚至一些安全措施反而加重风险（如核大国的“确保相互摧毁”防御原则）。此外，过去形成的复杂利益网络和逐渐加剧的大国博弈，也在阻碍各国协同。
作者指出，技术本身并不是风险的来源，所谓“倒增长”（degrowth）的退步策略并不可取。相反，各国政府可以采取“差别化技术发展”的原则，优先推动保护性技术的进步，并形成国际联盟，提供有关全球公共产品。他认为，在灾难性风险面前，西方尤其要反思自己的位置、转变看待世界的视角，努力推动监管改革，不能再鲁莽地把当代全人类以及所有子孙后代作为豪赌的筹码，而应专注于探索解决问题的方案。
本文原载“Foreign Affairs”，由文化纵横新媒体编译，原题为《历史的开端：在灾难性风险时代活下去》，仅代表作者本人观点，特此编发，供诸君思考。
文化纵横新媒体·国际观察
2022年第37期 总第88期
历史的开端：在灾难性风险时代活下去
人类正站在历史的起点上。今天活着的每一个人，在他之前至少有数十代人已成过去。但是，如果将人类的整个历史和哺乳动物的平均繁衍寿命对比，未来还会有数千代人尚未诞生。作为一个物种，人类勉强算是正在蹒跚学步的婴儿。
智人这个物种的未来或许还很漫长，但也可能转瞬即逝。自《外交》（Foreign Affairs）杂志在一个世纪前创刊以来，世界发生了太多变化；其中影响最深远的变化，就是人类获得了终结自己的能力。气候变化、核战争、人造大流行病、不受控制的人工智能，以及其他影响尚无法评估的颠覆性技术，许多令人担忧的风险都在威胁着人类的生存。
在30多年前冷战结束时，一些思想家曾畅想，未来的画卷将在平和中缓缓拉开。在冷战期间栩栩如生的“世界末日威胁”，似乎伴随着东欧剧变和苏联解体而开始消退。西方学者曾认为，他们似乎已经解决了主要的意识形态争论，而资本主义和“民主”将不可阻挡地传播。哈佛大学政治学者弗朗西斯·福山（Francis Fukuyama）将世界分为“后历史”（post-historical）和“历史”（historical）社会——战争可能会在世界的某些地方以种族和教派冲突的形式持续存在，但随着越来越多的国家加入到法国、日本和美国等“后历史”社会的一端，大规模战争将成为过去。在未来，政治的可能性范围将变得十分狭窄，正如它承诺着相对和平、繁荣和不断扩大的个人自由。
现如今，一个关于“未来永恒”的愿景，已经让位于“没有未来”的设想。意识形态仍然是划定地缘政治的分水岭，全球化市场正在分崩离析，大国冲突越来越有可能。面对着人类可能灰飞烟灭的威胁，未来几年的思想和政治辩论的范围可能比几十年前更加宽广。宏大意识形态的争端远未被解决。事实上，我们可能会遇到更大的问题，并被迫考虑更激进的建议，以反映未来的变革和危险所带来的挑战。我们的视野必须扩大，而不是缩小。
其中，最主要的挑战就是“人类应该如何管理自己天赋，及其所带来的危险”。无论是因为故意滥用还是爆发大规模事故，武器、生物和计算机等领域的进步，都可能意味着人类的灭亡。进入风险社会后，危机的规模和复杂性，可能会使任何一种协调行动陷入瘫痪。但是，政府能够而且也必须采取有意义的措施，以确保人类物种的生存，同时不放弃技术进步的好处。事实上，人类需要通过创新，来克服它正面临的几个灾难性的风险——产生和储存清洁能源，在可控的情况下发现和认识新的疾病，并在不依靠“确保相互摧毁”的模式下维持大国之间的和平。
当前，人类的技术和制度的现状远谈不上安全。相反，这些技术和制度创造了不稳定的困境，而社会需要逃离这个困境。因此，各国政府必须更清楚地认识到我们所面临的风险，并建设起强有力的机构来管理这些风险。（西方）政府需要将最坏的情况纳入决策过程中，并接受所谓“差异化技术发展”的理念——减少会产生潜在危险结果的进步，例如可被武器化的生物研究，同时资助和加速那些有助于减少风险的技术，如用于检测病原体的废水监测。
目前，我们亟需转变看待世界的视角（perspective）。福山在展望未来时曾透出些许哀伤，他看到的是一片灰色的、没有戏剧性、由技术官僚主宰的天地。他在1989年写道：“历史的终结将是一个非常悲伤的时刻，”其中“勇气、想象力和理想主义，将被经济计算、无休止地解决技术问题、环境问题和满足复杂的消费者需求所取代。”
站在历史的开端，在人类历史的关键时刻，我们亟需勇气和想象力来迎接未来的各种挑战。与福山的预言相反，政治视野并没有缩小到一个狭小的范围。巨大的经济、社会和政治变革仍然是可能的，并且是必要的。如果我们能智慧地行动起来，我们将能够重新定义未来，我们的子子孙孙也将以感激和自豪的心情来缅怀我们。如果我们搞砸了，那么我们的后代或许将永无天日。
▍还未到来的人
化石记录表明，哺乳动物的平均繁衍寿命超过了一百万年。按照这个标准，人类这个物种可能还有大约70万年的时间。照这么看，即使目前地球上的人类缩减到十分之一，未来也会有惊人的10万亿人出生。
此外，人类也不是一般的哺乳动物，并且可能比其亲属们更长寿。我们与最终后代的差别，或许比我们和最早的恐龙之间的差别还要大。在未来数千年，如果有一天我们在太空定居，源自地球的智能寿命或许可以超过几十万亿年后燃烧殆尽的太阳。
欣赏人类的未来潜力，并不是要搞一些无关痛痒的数字游戏。恰恰相反，对这些数字的估计，有助于我们理解真正重要的利害关系。人类在今天的行动，可能会影响到我们的数万亿后代能否生存，以及他们将如何生活——他们将面临贫穷还是富足，战争还是和平，奴役还是自由，责任就在我们这一代人的肩上。
在日本小镇亚哈巴（Yahaba）的一个实验证明了，当视角被扭转以后可能产生的深远后果。在辩论市政政策之前，属于“实验组”的参与者被要求穿上仪式性的长袍，想象他们来自未来，代表目前子孙后代的利益。研究人员不仅观察到“实验组和对照组之间的议事风格和优先事项有着鲜明对比”，而且实验组对后代的关注也很有感染力。在可以达成共识的措施中，有一半以上是由实验组代表子孙后代提出的。
从长远的角度思考，我们的社会潜力更大。在500年前，人们还无法想象有一天收入会每隔几代就翻一番，大多数人都能活着看到他们的孙子长大，世界上的大多数国家成为世俗社会。对于500年前的人来说，国家可能不会持续超过几个世纪，世界上的各种社会组织模式都没有完全形成。对几天、几个月或几年的短期关注，掩盖了人类捕捉基本的长期变化的潜力。人类只是处于起步阶段。因此，这个物种的过早消亡，将是一个多么悲剧的事情。
▍所谓“历史的终结”是如何实现的？
福山的“历史终结论”或是一种思想表达，但其他国际事务观察家则更多关注这一短语的字面意思：人类有可能自我毁灭。在冷战初期，当核科学家使人类的破坏力有了巨大飞跃之后不久，这种观点尤其盛行。正如英国政治家温斯顿·丘吉尔在1946年所言：“石器时代可能会乘着科学的闪亮翅膀回来。现在给人类带来不可估量的物质财富的东西，甚至也能带来人类的彻底毁灭。”几年后，美国总统德怀特·艾森豪威尔在他的第一次就职演说中也表达了类似担忧，他在演说中警告说：“科学似乎准备好了——作为它最后的礼物，赋予我们从这个星球上消灭人类物种的力量。”
人类历史充斥着灾难，有着从黑死病的恐怖到奴隶制和殖民主义的恐怖。但是，除了一些极不可能发生的自然事件，如火山喷发或流星撞地球，目前尚无任何可信的自然机制可以让人类整体灭亡。牛津大学哲学家托比·奥德（Toby Ord）在《悬崖》一书中估计，即使接受所有最悲观的假设，在累计的自然灭绝风险下，人类有至少还有10万年的预期寿命。
奥德对“存在性灾难”（existential catastrophe），即所谓“人类自我毁灭的潜力”，的严重关切主要出现在20世纪下半叶，此时正式技术加速进步的时代。英国皇家学会前主席马丁·里斯勋爵（Lord Martin Rees）在2003年写道，人类在21世纪生存的几率“不超过50%”。奥德估计，在未来一百年内，人类有六分之一的可能性实现自我毁灭，或以其他方式永久破坏文明进程。
人类的伟大发明核武器表现出了几个关键的特性，而未来的技术威胁也可能拥有这些特性。二十世纪中叶，同一技术的破坏力出现突然跃升：原子弹的威力是此前炸药的数千倍；氢弹更是让破坏力再次飙升。与原子能时代此前的破坏力增速相比，在短短的几十年里就走过了一万年的进步历程。
事实上，这样的进步是难以预料的：杰出的物理学家欧内斯特·卢瑟福（Ernest Rutherford）早在1933年就将原子能的想法视为可望而不可及的“白月光”，而在核裂变反应堆专利申请的前一年，另一位著名的物理学家利奥·斯齐拉德（Leo Szilard）也公开将这种想法否定了。只要有一颗核弹被发射，无论是蓄意而为还是无心之过，或许都将导致全面的核灾难。
更糟糕的是，目前针对核打击的防御措施，本身也在增加意外的核灾难风险。例如，美国提出了“空中警报”“预警即发射”的理论，苏联则有“死手”系统——如果莫斯科遭受核攻击，该系统将自动发起全面的核报复行动。冷战结束后，美俄并没有从根本上改变这种致命的应对方法，核大国仍然在其政策核心维持着准备实施打击和维持和平的微妙平衡。历经百年的核技术尚且如此，未来技术又将如何呢？
▍世界末日即将来临？
核武器远不是我们面临的唯一风险。一些未来的技术更难被治理——它们可能更具破坏性、更容易被更多的行为者获得、更容易实现“军民两用”，亦或者，基于更少失误就能触发人类物种灭绝。美国国家情报委员会最近一份报告指出，除了核战争之外，失控的人工智能、大流行病和纳米武器也是生存风险的重要来源——这些技术“可能在全球范围内威胁生命安全”，“而人类当前的想象和理解能力难以完全估计其潜在影响程度和规模”。
以大流行病为例。生物技术的进展一直非常迅速，如基因测序这样的关键成本下降得越来越快。技术进步带来了诸多好处，如对一些疑难杂症可以应用基因疗法。但是，生物技术的“军民两用”问题也很突出：理论上，使用医学研究中的一些方法，可以用来识别或创造比自然界中任何东西都更具传播性和致命性的病原体。这其实是开放性科学事业的一部分：科学家们有时会改造病原体，进而学习如何对抗它们。而在恐怖分子或一些国家管理的生物武器项目中，则会有人出于不太高尚的意图，从事类似的工作。此外，出于社会公益目的而发表的研究报告，也可能被坏人滥用。
与核武器不同，细菌和病毒能够自我复制和变异。正如在全球新冠肺炎疫情所呈现的结果，一旦一种新的病原体感染了一个人，可能就没有办法再把精灵放回瓶子里。全球只有九个国家公开拥有核武器，而俄罗斯和美国控制着90%以上的核弹头。但是，世界上有成千上万的生物实验室。在这些实验室中，有几十个分布在五大洲的实验室，被授权进行世界上最危险的病原体实验。
更糟糕的是，生物研究的安全记录甚至比核武器的安全记录更令人沮丧。2007年，口蹄疫在牲畜群中迅速传播，轻松地造成了数十亿美元的经济损失；但是，即使在政府的干预下，同一英国实验室在几周内竟然发生了两次泄漏。
生物实验室的泄漏问题已经导致了多条人命的丧失。据公开资料统计，仅在美国的实验室就发生了数百起意外感染，并且每年每250名实验室工作人员中就会有一起意外感染。世界上有数十个高度管制的实验室，每个实验室都雇用了数十个甚至数百名科学家和其他工作人员，这样的比率相当于每年都要发生多次意外感染，而整个社会必须努力以大大降低这一比率。如果这些实验室开始折腾起灭绝级的病原体，那么人类的提前结束或将只是一个时间问题。
▍治理“世界末日”
尽管风险水平不断上升，但我们采取必要措施保护自己的进度却令人担忧。事实上，在充分消解风险时，我们面临着数个巨大障碍。
最根本的问题体现在外交斗争中。这在气候变化治理中，体现得淋漓尽致。当燃烧化石燃料时，发达国家获得大部分收益，但其他国家和后代却承担大部分成本和代价。同样，有的国家从事有风险的生物研究并开发出专利药物，从而促进其经济和声望，但在该国意外释放的病原体却不会尊重边界。用经济学家的话说，把风险强加给未来是一种“负外部性”。
相反，提供减少风险的措施，如建立新型疾病的早期预警系统，就是应对这种“负外部性”的一种全球公共产品。（想想看，如果这次西方国家对新冠肺炎疫情的管控，就像2002年和2004年之间对SARS的处理一样，将其控制在少数国家并根除，这将对整个世界将带来多大的好处）。然而，无论是市场和现行的国际体系都不会默认提供这样的公共产品，因为各国都有强大的激励机制去搭便车。
人类其实有许多途径可以摆脱这种结构性悲剧。为了缓解在安全斗争中失去优势的担忧，各国可以达成协议，集体避免开发特别危险的技术（如生物武器）。或者，有意愿的国家可以形成经济学家威廉·诺德豪斯所称的“俱乐部”，共同提供俱乐部所要促进的全球公共利益。同时，俱乐部成员也承诺为彼此提供利益（如经济增长或和平），同时对非成员施加成本（通过关税等措施），从而吸引其他国家加入。当前，这个“俱乐部”就可以建立在人工智能系统的安全标准或暂停高风险的生物研究上。
不幸的是，大国竞争的重新抬头，让这些全球合作的可能性变得渺茫。更糟糕的是，在地缘政治的紧张局势下，各国将更能接受对世界，以及对它们自己产生更多风险——它们或许将认为这是一场（竞劣）赌博，并且能够促进其安全利益。但现实却并非如此：在美国保持轰炸机持续空中警戒的八年里，有五架飞机在携带核载荷时坠毁。哪怕只有一个国家开始对灭绝级病原体进行生物武器实验，也许只是一种简单的探索，下一次实验室事故都可能会引发一场比新冠肺炎疫情更严重的全球大流行。
在最坏的情况下，大国在争夺全球霸权的过程中，可能会诉诸于直接战争。对于二战后在西方长大的人来说，这个概念可能显得很牵强。心理学家史蒂文·平克（Steven Pinker）的研究认为，在西方公众中，“暴力”，包括“国家间的暴力”这种表述和心理已经显著减少。然而，政治学家贝尔·布劳默勒（Bear Braumoeller）和其他人的分析却指向另一个方向：在相对和平的插曲之后，战争完全有可能以更加致命的方式回归。计算机科学家亚伦·克劳塞特（Aaron Clauset）的则表明，二战后的“长期和平”需要再持续一个世纪，才能提供战争风险进入长期下降趋势的基本证据。布劳莫勒断言，“在我们的有生之年，发生杀伤力上超过两次世界大战的另一场战争，这并非不可能。”
既要避免第三次世界大战的风险，同时还要在国际治理方面实现前所未有的创新，这是一个很高的要求。但无论如何，这就是现实赤裸裸的挑战。
▍创新求生
在这一艰巨挑战面前，一个应对之策是“退缩”。一些人认为，如果安全地管理新兴技术是如此困难，那么我们干脆一开始就别发明它们。“倒增长”（degrowth）运动的成员正是采取这种立场，谴责经济增长和技术进步是人性异化、环境破坏和各种其他危害的罪魁祸首。2019年，来自150多个国家的11000名科学家签署了一封公开信，要求世界人口“稳定下来，最好是逐渐减少”，并要求各国将其优先事项从“GDP增长”中转移出来。
尽管这种反应具有直观的吸引力，但它是不现实的和危险的。它是不现实的，因为它根本没有考虑到国际体系中各国的相互依存关系。即使世界各国暂时联合起来停止创新，迟早也会有人恢复对先进技术的追求。
技术的停滞不前是不可取的，而新技术既可以加剧也可以减少风险。一旦引入新的技术危险，如核武器，政府可能需要额外的技术来管理这种风险。例如，如果在潜在的核冬天，人们能够在没有阳光的情况下生产食物，或者预警系统能够更可靠地区分洲际弹道导弹和小型科学火箭，那么核武器对人类生存构成的威胁将大大减少。但是，如果社会完全停止技术进步，当新的技术威胁出现时，由于没有在防御方面取得相应的进展，我们将无法遏制这些新威胁。例如，如果人们在早期检测和根除新型疾病方面没有取得很大进展时，我们将手无寸铁地面对各类行为者创造出的前所未有的危险病原体。
换句话说，现在技术发展已经埋下了大量的地雷。在缺乏防御措施的情况下，仅仅来自自然界的威胁曾经多次可能导致人类的最终灭绝，就像它们对许多其他物种一样。为了充分发挥人类的生存潜力，我们需要学会诸如偏转小行星、迅速抵御新的大流行病等新技术。
我们面临的挑战是继续收获技术进步的成果，同时保护人类免受其不利影响。一些专家将此称为“有区别的技术发展”。其想法是，如果人们不能首先防止破坏性技术或事故的发生，他们至少可以凭借远见和谨慎的计划，首先尝试开发有益的保护性技术。
诚如美国前海军部长理查德·丹齐格（Richard Danzig）所言，我们已经身处所谓“技术轮盘赌”的游戏中。还没有子弹射出，但这并不改变这个游戏的风险性，未来还有很多要扣动扳机的轮次，不可能每次都没有子弹射出。我们需要改变这个游戏规则。
▍我们欠未来的东西
到目前为止，参与或能够改变游戏规则的人还不多。相比已形成的复杂利益网络，人类社会迄今对未来的保护性工作少得令人震惊。例如，《生物武器公约》禁止开发、储存和获取生物武器，被国家安全专家丹尼尔·格斯坦（Daniel Gerstein）描述为“21世纪最重要的军控条约”。但是，该公约缺乏一个核查机制，并且其预算在纽约大都会艺术博物馆慈善舞会（Met Gala）等大型晚会的预算面前都相形见绌。如果这还不够滑稽的话，《生物武器公约》甚至还需要额外筹集它本应入账的微薄捐款——该公约主席在2018年的报告中哀叹“由于一些缔约国长期不缴纳会费，《生物武器公约》的财务状况岌岌可危且不断恶化。”
在非生物风险的管理上，人们也难以获得信息。在整个人工智能研究中，针对失控人工智能系统的研究仍然是微不足道的一部分。军方正在战场上使用致命的自动化智能武器，而在联合国，限制此类武器系统的外交努力已停滞多年。西方国家内部的情况也好不到哪里去——美国国防预算中只有不到百分之一的资金用于生物防御，而其中大部分用于抵御诸如炭疽病等传统生物威胁。即使在新冠肺炎疫情全球蔓延的背景下，美国在蒙受了超过16万亿美元的经济损失之后，美国国会也不同意提供150亿美元来加强对大流行病的准备。
正是应对风险的工作遭到如此忽视，以至于积极改变的机会也比比皆是。一个成功案例是美国宇航局的“太空卫士计划”（Spaceguard program）。该项目启动于1998年，科学家们以每年不到500万美元的成本，追踪了90%以上的威胁灭绝的小行星。在这个过程中，科学家不断提高预测的准确性，并将一个小行星毁灭地球的风险的降低到了十分之一。在新冠肺炎疫情期间，美国政府花费了180亿美元进行“曲速行动”（Operation Warp Speed），以加速疫苗开发。该计划产生了安全有效且低成本的疫苗。据估计，该项目的社会效益高达几十万亿美元。
如果世界上最善良和最聪明的人能够站出来，政府或私营部门能够提供资金，我们完全可以取得更令人印象深刻的成功。例如，通过对废水进行广泛的元基因组测序，将有助于在很早期发现、控制并根除病原体。在其他领域也有可能取得进展，针对大规模风险的已知来源的情报收集和分析将至关重要。尽管我们无法实现完全的确定性，但我们可以提前识别新的问题，并着手应对。例如，美国国家情报委员会最近的《全球趋势报告》中，就开始包含对“生存风险”相关概念的讨论，呼吁“制定有弹性的生存战略”。
更多的政府、机构和公司需要认真对待这种想法，而西方国家的监管改革也将非常重要的。在《避免灾难》（Averting Catastrophe）一书中，白宫监管办公室前负责人卡斯·桑斯坦（Cass Sunstein）认为，政府目前的成本效益分析方法不能充分考虑到潜在的灾难性风险。桑斯坦主张所谓的“最大化原则”：在面对如“人类灭绝”这样足够极端的风险时，政府必须专注于消除最坏的结果。恰好，白宫目前正在对其监管制度进行现代化改革。
福山曾预言，在“历史的终结将是几个无聊的世纪”，但这种论调简直离现实相去甚远。强大的破坏性技术对当前的政治体系提出了前所未有的挑战：先进的人工智能可能会破坏存个人和国家间的权力平衡、劳动完全自动化后资本可能不再有什么理由善待人民、某些政府可以利用第三次世界大战的前景作为扩张理由、生物武器将更加易于获得。
“未来可期”不仅是口号，更是一个值得奋斗的目标。在过去的三个世纪里，西方文化的自由主义转向似乎创造了一个“道德进步的引擎”，而这个引擎现在不能被关闭。西方人或许需要在促进道德、政治多样性、社会实验方面走得更远。回顾几千年来，现代人认为罗马人的奴隶制、以酷刑为娱乐的做法和极端的宗法制是野蛮的。而我们的后人，如果还有的话，或许也会认为我们目前的许多做法离野蛮差不了多少。思考大规模的政治变革是令人生畏的，但过去的治理创新，如联合国系统和欧盟，为我们提供了希望的理由。
我们西方人不习惯把自己看作是历史上的第一代人。我们反而倾向于关注从过去继承的东西，而不是我们可以留给未来的东西。这是一个错误。为了处理我们面前的任务，我们必须反思我们在人类种族中的位置。今天，有人正在鲁莽地豪赌，其筹码不仅是我们和我们孩子的生命，还包括尚未到来的所有人的生存权利。如果真要说“终结”，那就让我们在这一代终结这种豪赌吧。
本文原载“Foreign Affairs”，由文化纵横新媒体编译，原题为《历史的开始：在灾难性风险的时代存活下去》。欢迎个人分享，媒体转载请联系本公众号。