当 AI 在竞争中击败人类时，世界会变成什么样？
今天的世界是由人构成的。这赋予了人们微小的制衡力量（leverage）：工厂工人可以破坏机器使生产停摆，卡车司机可以通过罢工让整个经济停顿，警察可以选择袖手旁观，任由抗议者推翻政府，军队甚至可以发动兵变。这就给掌权者能够多大程度上压迫无权者设定了界限：无论一个人拥有多大的权力、多少财富、指挥多少军队，他始终都镶嵌在社会结构之中。他们需要其他人才能生存，并维持现有的生活质量。而大众，从根本上来说，可以通过停止为政治秩序作贡献的方式，来否决这套秩序。
然而，AI 改变了这一切。如果是由 AI 来操作工厂、驾驶卡车、处理大部分白领工作，甚至去打仗，那么人类在物质层面上将变得毫无力量。我们将失去用来制衡权力的一大筹码，进而彻底被剥夺话语权。当人们谈论 AI 抢走工作时，他们通常最担心的是贫困问题和人生的意义，但我认为，更多的人应该担忧的是这种「权力的丧失（disempowerment）」。
可要是并没有出现大规模失业呢？毕竟，在过去的两个世纪里，我们不断将一种又一种工作自动化，而如今每一个发达经济体实际上都处于充分就业状态。我们总能不断发现更新、层次更高、薪酬更丰厚的工作去做。Alex Imas 在《什么将成为稀缺品？》一文中，描绘了这种情景：
随着商品生产被自动化接管，收入和就业机会将流向那些收入弹性高的领域：我将其称为「关系型经济部门（relational sector）」，这包括艺术，但也涵盖护理、教育、服务接待、心理治疗、个人服务、手工艺以及社区运营。在这些领域，人类自身的属性就是价值的一部分。
[…]
如果这个模型是正确的，那么未来能够长久存在的工作，绝对不会是监控 AI 系统或进行提示词工程。那些只是自动化部门中的过渡性角色。真正持久的工作将存在于关系型部门，在那里，人类的特质就是产品本身。
有些工作已经存在并且正在增长：护士、治疗师、教师、精品健身教练、私人厨师、定制裁缝、精酿啤酒师、现场表演者、精神导师、幼儿保育员，以及各种各样的服务和护理工作。另一些则刚刚兴起：体验设计师、人机协同艺术家、出处认证员、社区策展人。还有许多尚未被发明出来，就像今天人们从事的工作中，有六成在 1940 年时根本不存在一样。
所以，在这样一个世界里，我们确实经历了大规模的岗位更替，但并没有出现大规模的失业。然而我必须指出，在这样的世界里，我们依然会被剥夺权力。
核心论点
如果全世界的播客（Podcaster）同时罢工，会发生什么？什么都不会发生。精品健身教练、私人厨师、精酿啤酒师罢工也是一样。「关系型经济」的命门在于，尽管这些工作通常比进厂打螺丝更体面，薪水也可能更高，但它们却让你离物质现实越来越远。流水线上的工人有能力破坏机器；而在国家另一端坐在办公室里的高管，他们手里掌握着什么物质权力？总不可能所有的工厂都预埋了炸药，以便在「万一企业被国有化时拉动拉杆玉石俱焚」吧。我甚至怀疑连埃隆·马斯克都做不出这种事。
从某种意义上说，这就像是中世纪农民处境的「镜像反转版本」。中世纪的农民拥有巨大的物质制衡力——所有的粮食都是他们种出来的——但他们目不识丁、极度贫困且一盘散沙，因此他们无法组织起来去利用这种筹码。工业社会的人民受过教育，相对富裕，并且高度集中在城市中心：他们既拥有物质制衡力，也具备利用这种力量的能力。而后 AI 社会的人民，或许能够时刻保持在线沟通，他们受过教育、知识渊博，但他们将彻底失去任何物质权力。因此，他们将没有任何物理手段来「撤回被统治者的同意」。
在后 AGI（通用人工智能）时代，民众根本无法撤回被统治者的同意。他们无法通过经济手段进行反抗，因为他们在经济上已是无关紧要的：就算他们仍有一份工作，那也不会是维持社会运转所必需的要害工作。退一步讲，即便他们有反抗的意愿，也无法组织起有效的抵抗。因为 AGI 会让大规模监控系统（其实体和法律基础设施今天就已经就位）的效率提升一千倍——当智能的成本低廉到「几乎无需计量」时，统治者完全可以给每一个普通人都分配一个能力远超人类的 AI 情报分析师。如果 AI 能够打常规战争，它们自然也能镇压内战。所以，人们也无法进行暴力反抗，因为由强大的 AGI 控制的无人机群，其「战损比（K/D ratio）」几乎肯定要远超端着步枪的人类（而且制造成本更低）。
那么，在这个世界里谁真正拥有权力？是那极少数能够向控制杀戮机器的强大 AI 下达命令的人类。而且这种情况可能也维持不了多久，因为迟早有一天，这些人类也会被他们的 AI 所篡权。
也许，自由民主国家在不需要选民的情况下，依然能保持其自由和民主的属性。但这听起来像是一种极度脆弱的制度安排，在这种状态下，自由民主仅仅成了一个演化的副产物（spandrel），它的存在更多是依靠历史惯性，而不是因为现实需要。
反方观点
如果我们真的造出了强大的 AGI，但上述的一切并未发生，那会是什么原因阻止了这一切？以下是一些可能性（按发生概率从高到低排序）：
- 一切如常（什么都没发生）： 得益于制度的惯性与韧性，也许我们会迎来一个拥有强大 AGI 的世界，但在这个世界里，每个利益相关者都有动机去维持系统的运转。例如，婴儿潮一代（Boomers）虽然不再工作，但他们仍是西方国家里最有权势的群体，因为那些掌握工作和枪杆子的人不想天下大乱。也许这种平衡能维持足够长的时间，让我们跌跌撞撞地度过危险期。
- 持久的互补性： AGI 里的「G」（通用性）其实是个伪命题：每一种心智都有其独特的形状结构。今天，AI 极其擅长写代码，但在写散文上却一塌糊涂。也许这种情况在未来会无限期地延续下去，所以 AI 接管了所有可以通过「跑分刷榜（benchmaxxed）」来量化的工作，而人类则去从事那些需要高「样本效率（sample efficiency）」、更加抽象的工作。
- 经典的末日剧本： 我们造出了强大的 ASI（超级人工智能），然后我们全军覆没。
- 系统管理员（Sysop）场景： 我们造出了强大的 ASI，但它是对齐的，于是它接管了全世界，并为人类搭建了一个无处可逃的、永久的功利主义反乌托邦。我们虽然没有死，但彻底失去了对未来的控制权，我们变成了类似宠物一样的存在。参见小说：《主智能体的变形记（The Metamorphosis of Prime Intellect）》。
- 深度学习撞墙： 结局或多或少与上一条相似，但原因不同。
核心论点，再精炼
如果你已经被我说服了，那你可以直接关掉网页了。但是，你要知道，在写完这篇文章的初稿后，连我自己都没被完全说服。不管是人类读者还是 Claude 模型，都提出了一些我觉得非常有分量的反驳意见。我难道是在危言耸听吗？所以我坐下来做了更深入的思考。所谓「人民」被「赋权」，到底意味着什么？「剥夺权力」又意味着什么？这是一个严谨的政治学概念，还是仅仅是一个煽动情绪的词汇？
让我们做个假设：如果一群人在他们所处国家的政治秩序中拥有发言权，那么这群人就是「被赋权的」。在一个民主社会中，选民总体上是被赋权的；而在俄罗斯帝国时期，农奴则是被剥夺权力的。
通常来说，历史上是哪些人拥有权力？在许多地方，答案是：拥有武器、拥有阿萨比亚（asabiyyah，即社会凝聚力），并且具备协调行动能力的人。所以，也许我们可以推导出一个公式：权力等于暴力加上协调能力。
（你可能会问，那牧师或者其他一些既不打仗也不劳作却依然手握权力的群体怎么算？听着，咱们不可能在这里辩论一整天。这本来就不是什么大一统的政治学理论，而且我用 LaTeX 和逻辑符号已经有点装过头了。）
那么，现代民主国家中的选民虽然不属于军事精英，为什么却能在政治秩序中拥有发言权？原因在于，他们拥有协调能力（这得益于大众识字率的普及和现代通信技术），但他们通常不会直接使用准军事暴力的威胁。他们有什么筹码可以替代暴力？也许是因为，社会上所有的工作都是由人民完成的：如果他们罢工，军队就会断粮，警察就会发不出工资；而且与中世纪的农民不同，现代人有能力组织和协调。所以，也许我们可以把公式进一步精炼为：
换句话说，一个群体要想掌握权力，他们必须具备：
- 对抗国家机器的物质筹码（无论是暴力的还是经济的）；
- 组织协调以利用这些筹码的能力。
那苏联的情况又怎么解释？当时的苏联有着很高的识字率，也有相对现代的通信技术，为什么人民没有利用经济筹码来向国家争取政治权利？如果用「因为国家会镇压他们」来解释是远远不够的，因为这个逻辑会推翻一切：如果仅仅因为害怕镇压，那世界上就不会有任何国家走向自由化和民主化了。我认为，一个更合理的解释是：苏联的镇压机制，成功且有效地「阉割」了民众的协调能力——每一种通信手段都在国家的严密监视与审查之下。
那么，这个逻辑是不是在暗示：随着一个国家的就业向服务业转型，该国的政治必然会走向独裁？但现实中我们观察到的现象却恰恰相反。不过，我们要明白，无论一个国家的经济里服务业占比是 5% 还是 95%，其经济的物质基础底座都同样是关乎生死的。因此，尽管工作变得越来越抽象，「整体的赋权效应」却依然存在。以法国为例，其服务业占经济比重高达约 80%，但剩下那 20% 的实体工人，依然能通过大罢工让整个国家瘫痪。从某种意义上说，所有的知识工作者，其实都在搭那些卡车司机和码头工人能够「瘫痪经济」的便车。不过，我个人不太喜欢这个「反反方观点」，因为它是难以证伪的：它暗示了国家可能会一直保持自由民主制度，直到 AGI 彻底取代了所有实体物质工作中的人类，到了那个临界点，国家机器就会扯下伪装大喊「我就是装给你们看的！」，然后彻底滑向极权统治。
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro，校对 Jarrett Ye
原文：When The Future Doesn’t Need Us
发布日期：2026-07-28