寻找贝叶斯结构

侏儒头盔（Gnomish helms）按理说是无法运作的。它们的构造似乎完全违背了魔法定律的本质。事实上，它们根本就不可能生效。就像侏儒思维的大多数产物一样，它们包含了大量花里胡哨的附加功能，却没多少实质内容。那些碰巧能起作用的头盔，通常在内部都隐藏着一个次级头盔（minor helm），它总是被藏在暗处，伪装得看起来像是个无害且无关紧要的小部件。
——《咒剑（Spelljammer）》战役设定集

我们已经看到，知识意味着一个心智与其所处环境之间的互信息^[1]；而且我们已经看到，在非常真实的物理意义上，这种互信息就是负熵^[2]：如果你确切知道分子在哪里以及它们的移动速度有多快，你就可以通过麦克斯韦妖 / 齐拉德引擎将热能转化为有用的功。

我们已经看到，在没有证据的情况下形成真实的信念^[3]，其不可能性与一杯热水自发地分离成冰块和电流属于同一种级别。理性在热力学意义上需要做「功」，而不仅仅是脑力劳动意义上的「努力」；如果心智不是完美高效的，它们在运转时就必然会辐射出废热。这种认知上的做功受概率论的支配，而热力学正是概率论的一个特例。（就如同统计力学是统计学的一个特例。）

如果你看到一台机器的轮子在不断转动，而它表面上并没有插电，也没有连接任何其他动力源，那你自然会去寻找隐藏的电池，或者附近的无线能量发射源——你必须找到某种能解释它在做功、且不违反物理定律的东西。

同理，如果一个心智得出了真实的信念（获取了真相），而在我们假设热力学第二定律^[2]没有被打破的前提下，那个心智必然是在执行某种至少隐约具有贝叶斯特征的运算——它的某个地方必定存在至少一个具有某种贝叶斯骨架的计算过程——否则它根本就不可能起作用。

在最初的时间点 T = 0 时，心智与其环境中的子系统 S 没有任何互信息。到了时间点 T = 1 时，心智与 S 有了 10 比特的互信息。在这两者之间的某个阶段，心智必定遭遇了证据——在贝叶斯关于证据的定义下，因为所有的贝叶斯证据都是互信息，而所有的互信息也都是贝叶斯证据，它们只是看待同一事物的不同方式——并且心智至少处理了其中一部分证据，无论其过程多么低效，它至少在某些场合下，顺着贝叶斯定理指引的正确方向迈出了步伐。在整个认知的链条上，心智必定至少在某个环节与贝叶斯的节奏产生了共鸣——你要么接受这一点，要么就只能认为它是通过从虚无中凭空创造出互信息，从而打破了热力学第二定律。

事实上，一个认知过程中任何能为寻找真相提供实质性帮助的组成部分，都必须至少蕴含一点点贝叶斯结构——必须在某个时刻与贝叶斯法则相契合——必须至少部分地顺应贝叶斯概率流的运作，无论其中掺杂了多少噪音，也无论它外面罩着多少花里胡哨的伪装，哪怕这种贝叶斯结构只有在周围环境的辅助下才显露端倪。否则，它连帮点小忙的资格都没有。

哲学家们曾是多么卖力地去思考「词语的本质」啊！为了探讨词语的真实定义^[4]、定义的真正内涵^[5]以及意义的真正意义^[6]，他们倾注了多少笔墨！在他们的解释体系中，他们搭建了多少错综复杂的齿轮和转轮！而一直以来，这不过是贝叶斯推断^[1]穿上了一件伪装^[7]的外衣而已！

说实话，看到听众中竟然没有人兴奋地跳起来高呼：「没错！就是它！原来如此！原来它骨子里一直都是贝叶斯！」我心里其实有点小失望。

但这也许情有可原。当看到一个表面上一点也不像贝叶斯的事物，最终被揭下面具，露出其精妙伪装下的贝叶斯真容时；如果：（a）这谜团不是你亲手解开的，而是你读到别人解开它的过程（牛顿发明微积分时的乐趣，肯定比绝大多数学微积分的学生要多得多）；并且（b）你没有意识到，寻找隐藏的贝叶斯结构是一场极其宏大、艰难且无所不在的征途，就像寻找圣杯一样；那么，这件事也许确实不会让你觉得那么令人激动。

对于认知的每一个不同侧面，这都是一场截然不同的征途，但最终找到的圣杯总是一模一样的。然而，你找到的必须是正确的圣杯——并且必须是完整的圣杯，不缺任何一个部件——因此，每一次你都必须踏上征途去寻找一个完整的答案，无论它以何种形态呈现；而不是试图含糊其辞地、靠着挥舞双手（hand-waving）硬凑出一个「看似圣杯」的论证。只有这样，在每一次旅途的终点，你才会发现，你找到的永远是同一个圣杯。

之前有人向我指出，我写这么长的系列文章可能会流失一部分读者，因为我没有「在一开始就明确说明我到底想表达什么」……

……但是，当你想带领人们前往像那种深邃的地方时，仅仅在开头告诉他们目的地在哪，是远远不够的^[8]。

如果你不知道某种认知形式是如何遵循贝叶斯法则的，仅仅知道它是贝叶斯的，对你并没有多大帮助。如果你看不清概率流转的具体细节，你所拥有的不过是一句通关密码^[9]——或者说得好听点，你只是得到了一个关于答案形态的提示；但这绝对不是答案本身。这就是为什么我们需要一场「寻找隐藏的贝叶斯结构」的伟大征途，而不是只要大喊一声「贝叶斯！」就算大功告成了。贝叶斯结构可以潜伏在各种各样的伪装之下，隐藏在繁复的齿轮和转轮丛林深处，被那些花里胡哨的附加功能所掩盖。

真正让你开始领略这场「寻找神圣贝叶斯」征途魅力的方法是：你去了解了某个名为 XYZ 的认知现象，它看起来极其有用——而且有一大群哲学家几个世纪以来一直在争论它的真实本质，直到今天还在吵——同时还有一群人工智能科学家试图让计算机学会它，但他们在哲学上也无法达成共识——

然后——咦，真奇怪！——这个认知现象表面上看起来跟贝叶斯八竿子打不着，但它底下居然潜藏着一个可以用贝叶斯来完美解释的非直观结构——可是等等，它还在执行一些无法用贝叶斯术语解释的有用工作——不对，等等，那部分也是贝叶斯的——我的天哪，这个表面上也不像贝叶斯的完全不同的认知过程，骨子里居然也有着贝叶斯结构——等等，剩下那些非贝叶斯的部分到底起了任何作用吗？

• 起了作用： 哇，原来那些部分也是贝叶斯的！
  
  
• 没起作用： 老天爷啊，这是什么愚蠢的进化设计^[10]。我随便吃一桶氨基酸，都能吐出一个比这更高效的大脑架构。

当这种「顿悟」在你身上发生过几次之后，你就会慢慢把握住那股节奏。这就是我在这里想要传达的，那股寻找贝叶斯的节奏。

试图用言语去描述这种节奏，就像试图用跳舞来讲解建筑学一样。

这就导致我在试图提前解释我将走向何方时，陷入了一点小困境。我从经验中得知，如果我直接说「贝叶斯是宇宙的终极秘密」，有些人可能会盲从地附和「对！^[11]贝叶斯就是宇宙的秘密！」；而另一些人则会嗤之以鼻，反驳道：「你太心胸狭隘了；看看我工具箱里^[12]收集的这些特设（ad-hoc）但却异常好用的其他方法吧，比如正则化线性回归。」

我曾满心希望，如果我手里能攥着一个极其具体的例子，用来展示「某个表面上看起来跟贝叶斯毫无关系，但底层逻辑其实完全是贝叶斯^[1]」的事物——并且解释清楚了密码与真知之间的区别^[9]——并且解释清楚了工具与法则之间的区别^[12]——也许到了那个时候，我就能将这股节奏传达给读者，让他们即便没有亲自踏上征途，也能领略其中的奥妙。

当然，这远非「贝叶斯兄弟会（Bayesian Conspiracy）」的全部秘密，但这已经是我目前所能传达的极限了。而且，最完整的秘密只有贝叶斯议会（Bayes Council）的长老们才知道，如果我告诉了你，我就不得不雇佣你了。

要能看穿任何认知过程那东拼西凑的（adhoc-ery）表象，直击潜藏其下的贝叶斯结构——要能清晰地感知概率的流动，并且知道它是如何运作的，而不仅仅是知道它的结论；知道这种认知过程也是贝叶斯的——因为它一向如此——因为它必定如此——要能够感知到支撑所有认知的底层原力——这，就是贝叶斯之眼（the Bayes-Sight）。

「……而喀什法女王（Queen of Kashfa）是用『蛇之眼（Eye of the Serpent）』在看世界。」
「我不确定她是不是真的能用它看东西，」我说。「她刚做完手术，还在恢复中。但这确实是个有趣的想法。如果她真的能用它看世界，她会看到什么呢？」
「我敢说，她将看到永恒那清晰、冰冷的线条。潜藏在所有表象的阴影之下。」
——罗杰·泽拉兹尼（Roger Zelazny），《混沌王子》（Prince of Chaos）[1]

[1] Roger Zelazny,Prince of Chaos(Thorndike Press, 2001).

总目录：

卷：

章节：

上一篇：

下一篇：

Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro，校对 Jarrett Ye
原文：Searching for Bayes-Structure

← 返回目录