僵尸评论的回应

我今天有点累，因为昨天为了写那篇超过 6,000 字的关于僵尸^[1]的文章熬到了凌晨 3 点，所以今天我只挑理查德（Richard）的评论来回复，并顺便解决我在第二天发现的一个小漏洞。

(A) 理查德·查普尔（Richard Chappell）写道：

一个术语上的注释（为了避免不必要的混淆）：你所谓的「可设想的（conceivable）」，我们这边的其他人通常只会称之为「表面上可设想的」。

「我暂时还没看出任何矛盾」和「这在逻辑上是可能的」这两者之间的鸿沟实在是太巨大了（即便在某些看似极其简单的情况下，要证明逻辑可能性也是一个 NP-complete 问题），以至于你真的应该用两个完全不同的词来描述它们。考虑到整个僵尸论证的根基，都是建立在「把这条巨大的鸿沟轻描淡写地扫进微小术语差异的地毯底下」这种做法之上的；我真的认为，明确区分「可设想的」与「逻辑上可能的」，甚至搞出一个更显眼的界限，会是一个极好的主意。我无权左右那些已经约定俗成的专业术语，但在遇到这种极其容易误导人的情况时，我可能会严词拒绝使用它们。

也许我以后会用「表面上可设想的」，来指代僵尸论的支持者们闭着眼睛想象「僵尸世界」时获取的那种所谓的信息；然后用「逻辑上可能的」，来指代那些通过展示完整的模型或严格的逻辑证明所确立的信息。请注意这两种信息之间的差距有多大：一种是你闭上眼睛瞎想就能得到的，另一种是真正能支撑起「副现象论」大厦所必需的。

也就是说，你的观点在学术上会被归类为一种「A 型唯物主义（Type-A materialism）」，即认为僵尸在根本上甚至连「（真正地）可设想」都算不上，更别提在形而上学上可能了。

「A 型唯物主义」是一个大杂烩般的标签；在你没有看到我对它里面打包的每一个观点都点头同意之前，你不该把这个标签直接扣在我头上。我认为，一个人如果去问「什么是意识？」，他是在提出一个合理的问题，并提出了对洞察力的合理需求；但我并不认为这个问题的答案非得长成这种形式：「由于某某原因，所以这里有一种包含了你所归因于意识所有属性的质料」。相反，答案很可能在很大程度上包含某种洞见，这种洞见会让你猛然醒悟：原来你一开始提问的方式就错了。

这并不等于对意识采取「取消主义（eliminative，即认为意识根本不存在）」的立场。这只是一种实事求是的态度，旨在告诉你，在面对一个这样的问题时，你该期待获得何种类型的洞见。这个问题具备以下特征：（1）看起来必须存在某种解答；（2）但看起来又似乎不可能有任何解答^[2]；（3）目前所有的讨论方式，都极其严重地依赖于人类那套东拼西凑、且尚未被我们完全理解的认知架构。

(1) 据我所知，到目前为止，你并没有在对僵尸世界的描述中指出任何逻辑上的矛盾。你只是指出它「有点奇怪」。但是，可能世界本来就有很多千奇百怪的。那不能成为假设其中存在隐含矛盾的理由。所以我现在依然完全摸不着头脑，你所谓的这个「矛盾」究竟是什么。

好吧，那我就站在唯物主义的立场上，把这个逻辑链条一步步掰开了讲清楚：

1. 根据定义，僵尸世界包含了我们这个世界中，处于任何可观察现象的「由……引起」或「导致……的结果」因果闭包内的所有物理部分。也就是说，它必定包含了导致我实打实地说出「我思故我在」这句话的物理原因。
   
   
2. 当我把内心的觉知集中在我的内部觉知上时，紧接着我就会体验到我的内部独白在说：「我正在将内心的觉知集中在我的内部觉知上」；而且只要我愿意，我随时可以把这句话大声说出来。
   
   
3. 从直觉上看，事情确实像是我的内部觉知导致了我的内部独白说出某些话，而我的内部独白又导致了我的嘴唇说出某些话。
   
   
4. 「意识」这个词，如果它真的有任何意义的话，它指代^[3]的就是那个「存在」、或者「导致」、或者「让我开口说我拥有」内部觉知的东西。
   
   
5. 由 (3) 和 (4) 必然可以推导出：如果僵尸世界在「导致我说出『我思故我在』」的因果链条上是闭合的（完整的），那么僵尸世界就必定包含了那个被我们称之为「意识」的东西。
   
   
6. 但根据僵尸世界的初始定义，僵尸世界不包含意识。
   
   
7. 在我看来，命题 (3) 在经验事实上为真的概率极高。因此，我评估「僵尸世界在逻辑上不可能存在」的经验概率极高。

你当然可以试图去「拯救」僵尸世界，方法是强行假设：导致我的内心独白说出「我思故我在」的原因，是某种与意识八竿子打不着的东西。但是，再结合「意识确实客观存在」这个基本假设，这就是整个理论让我觉得它彻底疯癫的地方。

但如果上面这通强行假设在概念上是可设想的，那僵尸世界不就是可设想的了吗？

不，因为这两种构建僵尸世界的方式，赋予了「意识」这个词截然不同的经验指代物（referents）。这就好比在我们这个世界里「水」意味着 ，而在普特南的孪生地球里「水」意味着 。想要让僵尸世界在逻辑上成立，光凭一句「就你对经验世界的了解而言，『意识』这个词本可以指代^[3]一种与我们熟知的意识截然不同的副现象」是远远不够的。僵尸世界缺失的是意识本身，而不是少了「意识」这个标签——它是一个没有 的世界，而不是一个没有「水」这个字的世界。只有这样，才能支撑起那个至关重要的经验陈述：「你可以从我们的世界中把『意识』所指代的任何客观实体抽走，同时保持所有原子的位置原封不动。」

也就是说：我坚持认为，基于「意识」这个词实际指代的东西^[3]，要想在不移动任何原子的情况下消除意识，在逻辑上也是绝对不可能的；这是一个经验事实。至于如何从一个世界中消除「『意识』」这个词的标签，而不消除意识的客观实体，我就不加妄测了。

(2) 如果说（在属性二元论的观点下）我们的感受质（qualia）与物理世界如此严丝合缝地对齐是「奇迹般的」，那是很有误导性的。毕竟，有一条自然法则保证了这种对齐。因此，这跟物理定律中的其他常数一样，只不过是一种逻辑上偶然的法则必然性（nomic necessity），并不比它们更像奇迹。

问题恰恰在于，正是这个「自然法则」本身太「奇迹般」了——它成了一个强加进理论里的、极其复杂且低概率的额外假设元素，而且这个元素根本无法用已知的事物来证明其自身的合理性。有人强行假设了（a）存在一个有意识的内在世界，（b）存在一个发生了机械故障、莫名其妙大谈意识的外在物理世界，以及（c）这两个世界之间存在完美对齐的法则。由于命题（c）根本无法从（a）和（b）推导出来，所以它必须作为一个单独的额外假设。

我同意，在哲学的语境里，我在这里使用「奇迹」一词与它「违背自然法则」的传统含义有冲突；我用这个词是想表达「没有任何明显来源却出现了极低概率的不可能性」，类似于永动机信念^[4]。所以，在那个特定的语境下，我确实选词不当。但是，在直觉上，这难道不就是我们通常所说的奇迹吗？你的意识并没有真正导致你说出你有意识，而是存在着另一个独立的物理机制让你说出你有意识，但偏偏就是有一条不可思议的法则把这两者完美地绑定在了一起——这事儿的荒谬程度，就跟有人向你宣称：一块圣餐饼具有了基督血肉的本质，同时它又保留了薄脆饼干的确切外观和一切物理属性，你之所以觉得扯，是因为「恰好有一条自然法则保证了这种物理和神性互不干涉的同步」一样。

也就是说，僵尸版的查尔默斯（或者说「外在的」查尔默斯）实际上并没有得出任何结论，因为他发出的声音是毫无意义的。退一万步讲，他也并没有在没有任何根据的情况下乱下结论。他只是在发出物理上的噪音；这些声音并不比鸟的叫声更具有什么认识论上的评估价值。

如果站在设计人工智能的角度来看，我认为你应该完全有能力构建出一个 AI，它能够系统性地优化自身的内部模块，使这些模块与外部环境产生相关性（这里的相关性是指互信息或系统性关系）；这些模块里甚至可能包含某些浮点数，而我会管这些浮点数叫「概率」，因为当 AI 遭遇新信息——抱歉，是新的感官输入时，这些数字完全遵循考克斯定理（Cox’s Theorems）所要求的内部逻辑关系在更新。

你肯定会反驳说，除非这个 AI 不仅仅是由一堆晶体管堆成的——除非它也拥有那种神秘的「二元属性」——否则 AI 就不能算作拥有「信念」。

我认为，我在《简单的真实》^[5]一文中，已经把关于这点的观点表达得足够清晰了。

在我看来，构建出一个能以系统性方式映射客观疆域的认知地图，在这个过程中除了纯粹的物理因果律之外，完全不需要引入任何其他玄乎的概念，这是一件极其直白的事。这个 AI 输出了一张得克萨斯州的地图。然后另一个 AI 带着这张地图飞到了得克萨斯州，去核对那里的高速公路是否都在地图标示的位置上；如果它检测到匹配，它就会发出「真（True）」的鸣叫，如果它检测到不匹配，就会发出「假（False）」的鸣叫。你当然可以死鸭子嘴硬，拒绝承认那是一张「得克萨斯州的地图」，但这丝毫不会妨碍那两个 AI 继续鸣叫「真」或「假」；而且，当这些 AI 看到查尔默斯那套关于「副现象内部核心」的虚空信念时，它们肯定会狂响「假」的警报，而我个人，绝对会站在 AI 这边。

很显然，绘制现实地图的功能，是完完全全由那个「外在查尔默斯」去执行的。而整个产生信念表征的过程，也完全是由因果交互^[6]过程中的贝叶斯结构^[7]来处理的。那个神秘的「内在查尔默斯」根本无事可做，它唯一能做的，就是像个老神棍一样，用一种副现象的「意义（meaning）」来给整个物理过程开光赐福。但在这里，「意义」已经变成了一个与「系统性地进行地图-疆域映射」，或者与「使用该地图在现实中导航的能力」完全无关的词汇。所以，当我们谈论「准确性」，更不用说「系统性的准确性」时，我实在看不出为什么我们不能仅仅通过观察「外在查尔默斯」来决定一切。

(B) 在昨天发布的内容中，我在写下面这段话时遗漏了一个关键的假设：

如果一个会自我修改的 AI 审视自己的某一部分，发现这部分在条件 成立时总是得出结论「」——也就是说，只要条件 为真，这部分代码就会往内存里写入「」——于是 AI 进一步审查这部分代码，确定了它在更宏大的物理宇宙中究竟是如何（在因果层面上）运作的；然后 AI 判定，这部分代码其实有一种系统性的缺陷，总是倾向于把错误的数据写入内存；那么，AI 就会认定自己找到了一个 Bug，并且它会修改自己的源代码，确保以后在条件 成立时，不再把「」写入自己的信念池中。
…
但是，对于外在的查尔默斯，或者任何一个反思连贯、能够自我审查的 AI 来说，绝对没有任何站得住脚的理由，去相信这种充满神秘色彩的「巧合正确性」。我认为，一个优秀的 AI 设计，它看起来应该像是一个具身于因果物理系统中的、反思连贯的智能体；并且，它必须拥有一套可检验的理论，能够清晰地解释这个与自身同质的因果系统，在努力实现其目标的过程中，究竟是如何系统性地输出准确^[8]的信念的。

实际上，在上述推导中，你需要补充一个额外的假设，那就是：一个「优秀的 AI 设计」（至少是我构想中的那种）是以一种模块化的方式来评判自身的理性的；它通过强制保证局部理性，来确保全局理性。如果在它的代码中存在一个模块，相对于其自身的运行语境，在局部系统性上是不可靠的——也就是说，对于某些可能的信念「」和前提条件 ，它会在局部条件 成立时将「」添加到信念池中；但系统的高层反思却表明，当局部条件 为真时， 在客观上并不为真（或者在概率信念的情况下，不准确）——那么，这就是一个必须被修复的 Bug。这种模块化的设计，是让这种复杂的认知问题变得可解的必由之路，也是我目前对于初代 AI 架构的构想。[2013 年注：我在这里初步构想的概念，现在已经在 Tiling Agents for Self-Modifying AI 第 6 节中得到了完善和形式化。]

这个概念的核心在于：一个因果封闭的认知系统——比如一个被程序员设计为只使用具备物理因果效力模块的 AI；或者一个对其自身运作机制拥有完全可检验理论的 AI；又或者那个负责敲击键盘写哲学论文的「外在查尔默斯」——如果它在内部得出了「自己拥有一个副现象的内在自我」的信念，那它内部必定有某个模块在进行着系统性不可靠的运算，因为它在没有意识的僵尸世界里，居然也会通过一模一样的推导得出相同的结论。一个心智，如果它的所有局部模块相对于其上下文都是系统性可靠的，那么这个心智在全局层面上也必然是系统性可靠的。反之，一个在全局上不可靠的心智，必然包含至少一个在局部上不可靠的模块。因此，如果一个因果封闭的认知系统在对自身的局部可靠性进行审查，它必定会发现：导致它往信念池里添加「副现象内部自我存在」这个信念的推理链条中，至少有一个步骤是完全不可靠的。

如果哲学家们能想出其他让心智实现反思连贯性的方法，从而成功避开这套「证明僵尸不被相信」的逻辑，随时欢迎他们来尝试并明确写下来。

我之所以必须把这些约束条件规定得如此细致，是因为如果不这样，你就会得到一种廉价得令人发指的「反思连贯性」；在这种体系下，AI 永远不会将自己标记为不可靠。例如，如果 AI 发现自己内部有个模块算出了 （在数羊的特定情境下），AI 可能会这样自我开脱：「嗯，这部分代码确实出了点故障，说 ……但纯粹是出于奇迹般的巧合，在外部现实中 恰好就等于 ，至少在我看来是这样的……所以，虽然这部分代码看起来系统性地不靠谱，我最好还是别去动它了，免得它在处理这个极其特殊的案例时反而搞错了。」这就是为什么我强调要通过强制「局部系统可靠性」来确保「全局可靠性」的原因——如果你只是拿你的全局信念去对照你的另一个全局信念，这就成了纯粹的循环论证，你哪儿也去不了。

这确实给我们留下了一个极具普适性的教训：你必须通过证明推理的每一步在局部都是可靠的，来证明你的论点在全局上是可靠的；而不能仅仅是拿你论点得出的总结论，去跟你直觉里预设的结论对对碰。[2013 年注：关于有效的逻辑为什么必须在局部有效，请参阅《证明、蕴涵和模型》。]

(C) 一位匿名发帖人写道：

这里有一点偏题，但我认为你对「n’shama」一词的词源解释是错的。这个词的词源其实与「呼吸（breath）」有关，而不是「听（hear）」。代表「听」的词根包含一个 ayin（希伯来字母），而 n’shama 里并没有。

瞧，这才是所谓的「奇迹般且极具误导性的巧合」啊——尽管 N’Shama 这个词最初是因为完全不同的原因而产生的，但它在发音和字面上看起来恰好完全符合我的误解，以至于让我坚信它指的就是一个内部的倾听者。

糟了（Oops）。

总目录：

卷：

章节：

上一篇：

下一篇：

Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro，校对 Jarrett Ye
原文：Zombie Responses

← 返回目录